هوش مصنوعی قدرتمندتر از همیشه به نظر میرسد و چتباتهایی مثل بارد و ChatGPT میتوانند متونی درست شبیه انسان را تولید کنند. اما این رباتها با وجود تمام مهارتشان یک سوال را بیجواب گذاشتهاند: آیا این مدلها واقعا آنچه میگویند را درک میکنند؟ جفری هینتون، از پیشتازان هوش مصنوعی، در مصاحبه جدیدی با اندرو انجی، میگوید: «برخی به روشنی به این مساله باور دارند و برخی هم آنها را تنها طوطیهای احتمالمحور (stochastic parrots) میدانند.»
این عبارت معروف از مقالهای در سال ۲۰۲۱ گرفته شده که امیلی بندر، زبانشناس رایانشی از دانشگاه واشنگتن، یکی از نگارندگان آن است. این مقاله میگوید مدلهای بزرگ زبانی (LLMها)، که پایه و اساس چتباتهای مدرن هستند، تنها با ترکیب اطلاعاتی که مشاهده کردهاند و «بدون هیچ توجهی به معنای آن»، متن تولید میکنند و به گفته مولفان همین مساله LLM را به «یک طوطی احتمالمحور» تبدیل میکند.
همین مدلهای زبانی پشت پرده بزرگترین و بهترین چتباتهای امروزی هستند و از نگاه هینتون وقت آن رسیده تا درمورد گستره درک آنها صحبت کنیم. این سوال از نظر او فراتر از یک سوال آکادمیک است. از نظر او: «تا زمانی که این اختلاف نظرها باقی است، نمیتوانیم درمورد خطرات به اجماع برسیم.»