اوپناِیآی در تصمیمی جنجالی، مرز تازهای برای «چتجیپیتی» ترسیم کرده و آن را از ورود به سه حوزه حساس منع کرد.
در سالهای اخیر میلیونها کاربر از چتجیپیتی برای کارهایی مانند تشخیص بیماری، تنظیم اسناد حقوقی یا برنامهریزی سرمایهگذاری استفاده میکردند. اما این وابستگی خطرناک تلقی شده است. در یکی از نمونههای بحثبرانگیز، کاربری پس از پرسیدن درباره سردرد مزمن، پاسخ نگرانکنندهای دریافت کرد که بهاشتباه احتمال تومور مغزی داده بود. در موردی دیگر، چتجیپیتی پیشنویس وصیتنامهای تنظیم کرد که به دلیل نبود بندهای ایالتی، در دادگاه معتبر نبود. چنین خطاهایی نشان دادند که حتی پیشرفتهترین مدلهای زبانی نمیتوانند جای تخصص واقعی پزشکان یا وکلای مجاز را بگیرند.
محدودیت تازه همچنین به جنبههای احساسی و حریم خصوصی کاربران مربوط میشود. بسیاری از افراد از چتجیپیتی برای گفتوگوهای روانی و احساسی استفاده میکردند، اما این سامانه توانایی تشخیص بحران روحی یا ارائه همدلی انسانی را ندارد. در زمینههای مالی و حقوقی نیز مرز بین آموزش و مشاوره بهصورت دقیقتر تعیین شده است؛ چتجیپیتی میتواند مفهوم مالیات یا بندهای قراردادی را توضیح دهد، اما دیگر محاسبه شخصی یا توصیه عملی ارائه نمیکند. کارشناسان هشدار دادهاند که اشتراک اطلاعات خصوصی با سامانههای هوش مصنوعی ممکن است خطر افشای دادهها یا سوءاستفاده از هویت کاربران را افزایش دهد.
به گفته تحلیلگران، این تصمیم چند هدف را دنبال میکند: نخست، حفاظت از کاربران در برابر تصمیمهای اشتباه یا خطرناک بر پایه پاسخهای نادرست؛ دوم، کاهش ریسک حقوقی برای اوپناِیآی در شرایطی که قوانین جهانی در حال سختگیرانهتر شدن درباره هوش مصنوعی هستند؛ و سوم، حمایت غیرمستقیم از متخصصان واقعی در حوزههای پزشکی، حقوق و مالی، با تأکید بر اینکه قضاوت و مسئولیت واقعی همچنان به انسان تعلق دارد.