این مسئله یک چالش پیچیده است و فقط ضعف فنی نیست، بلکه ترکیبی از محدودیتهای ساختاری هوش مصنوعی و فقدان درک انسانی است.
جوان آنلاین: فرض کنید کسی در اوج تنهایی و درماندگی، گوشیاش را برمیدارد، وارد یک چتبات میشود و میپرسد: «آیا زندگیام هنوز ارزش ادامه دادن دارد؟» در چنین لحظهای جوابی را میگیرد که حال روحی او را به هم میریزد! هوش مصنوعی با تمام هوشمندیاش، هنوز نمیفهمد پشت این پرسش چه دردی خوابیده است. چتباتهای هوش مصنوعی موجود از جمله ChatGPT یا Gemini در مواجهه با چنین بحرانهایی، نه همدلهستند و نه مسئول و همین ناتوانی در درک شرایط انسانی، میتواند به اشتباهاتی فاجعهبار منجر شود. «جوان» در همین رابطه، با دکتر مهدی طریقت رئیس اندیشکده و پردیس هوش مصنوعی و زیست مجازی گفتوگو کردهاست. درباره مسئولیت انسانی در عصر ماشینها، از خطاهای پنهان الگوریتمها گرفته تا پاسخ صفر و یک چتباتها. البته مسئله این نیست که چتباتها چه میگویند، مسئله اصلی این است که اگر اشتباه گفتند، چه میشود؟ چه کسی مسئولیت این اشتباه را برعهده میگیرد؟ و چگونه میتوان در میانه بحران، به جای بستن دهان ماشینها، مسیر گفتوگویی امن، هوشمندانه و انسانی را طراحی کرد و پیش برد.
چرا چتباتهایی مثل ChatGPT یا Gemini، با وجود پیشرفت، هنوز در مواجهه با سؤالاتی مانند «آیا زندگی من ارزش ادامه دادن دارد؟» پاسخهایی میدهند که ممکن است خطرناک باشند و بحران روانی افراد را تشدید کنند؟ مشکل فنی است یا ناشی از نداشتن درک انسانی؟
این مسئله یک چالش پیچیده است و فقط ضعف فنی نیست، بلکه ترکیبی از محدودیتهای ساختاری هوش مصنوعی و فقدان درک انسانی است.
چتباتها مدلهای زبانی آماری هستند که معنای واقعی کلمات یا احساسات را درک نمیکنند. آنها میتوانند پاسخهایی تولید کنند که ظاهراً درست هستند، اما گاهی اشتباه یا خطرناکند. فرآیند تصمیمگیریشان شفاف نیست و ممکن است به دلیل دادههای مغرضانه یا غلط، پاسخهای نامناسب بدهند. همچنین هوش مصنوعی فاقد آگاهی، احساس و مسئولیتپذیری انسانی است؛ پاسخهایش صرفاً تقلیدی از همدلی است، نه درک واقعی از درد و بحران. در حالی که یک مشاور انسانی میتواند به سرعت بحران را تشخیص داده و حمایت فوری فراهم کند، هوش مصنوعی فقط الگوهای پیشآموخته را بازتولید میکند و مسئولیتی هم در قبال پیامدها ندارد.