با توسعه هوش مصنوعی، مجموعهای از خطاها و گافهای پرهزینه این فناوری نیز رخ داده است که شکاف «توان تولید متن روان و قانعکننده» و «قابلیت تصمیمسازی قابلاتکا و مسئولانه» را برجسته میکند.
جوان آنلاین: هوش مصنوعی مولد بهویژه مدلهای زبانی بزرگ مانند چتجیپیتی در مدتزمانی بسیار کوتاه، از یک فناوری نوظهور آزمایشگاهی به ابزاری فراگیر در حوزههای رسانه، کسبوکار، آموزش، تولید محتوا و حتی فرایندهای حساس تصمیمسازی تبدیل شدهاند. سهولت دسترسی، کیفیت بالای تولید متن و توان شبیهسازی گفتوگوی انسانی، باعث شده این ابزارها با سرعتی فراتر از آمادگی نهادی و حقوقی، وارد حوزههای کاری حرفهای و روزمره کاربران شوند.
به گزارش مهر، اما درست همزمان با این نفوذ گسترده، مجموعهای از خطاها و گافهای پرهزینه نیز رخ داده است؛ مواردی که به عقیده کارشناسان، نشان میدهد میان «توان تولید متن روان و قانعکننده» و «قابلیت تصمیمسازی قابلاتکا و مسئولانه» شکافی جدی وجود دارد. شکافی که اگر نادیده گرفته شود، میتواند خروجی هوش مصنوعی را از یک ابزار کمکی به یک عامل مخرب و تهدید آفرین تبدیل کند.
این نوشتار کوتاه با رویکردی تحلیلی و مبتنی بر نمونههای واقعی، به بررسی مهمترین خطاها و گافهای منتسب به مدلهای زبانی بزرگ و چتباتهای مبتنی بر این فناوری میپردازد؛ خطاهایی که در برخی موارد صرفاً به هزینههای اعتباری، حقوقی یا سازمانی منجر شدهاند و در برخی دیگر، پیامدهایی بهمراتب عمیقتر داشته و پای سلامت روان و حتی جان انسانها را به میان کشیدهاند. هدف از این بررسی، ایجاد هراس از فناوری نیست، بلکه روشنکردن مرز میان «استفاده هوشمندانه» و «اتکای پرخطر» به هوش مصنوعی مولد محسوب میشود.
ریشه مسئله: خطای اطلاعاتی با لحن قاطع