به گزارش گروه دانشگاه خبرگزاری دانشجو، هوش مصنوعی مولد بهویژه مدلهای زبانی بزرگ مانند چتجیپیتی در مدتزمانی بسیار کوتاه، از یک فناوری نوظهور آزمایشگاهی به ابزاری فراگیر در حوزههای رسانه، کسبوکار، آموزش، تولید محتوا و حتی فرایندهای حساس تصمیمسازی تبدیل شدهاند. سهولت دسترسی، کیفیت بالای تولید متن و توان شبیهسازی گفتوگوی انسانی، باعث شده این ابزارها با سرعتی فراتر از آمادگی نهادی و حقوقی، وارد حوزههای کاری حرفهای و روزمره کاربران شوند.
اما درست همزمان با این نفوذ گسترده، مجموعهای از خطاها و گافهای پرهزینه نیز رخ داده است؛ مواردی که به عقیده کارشناسان، نشان میدهد میان «توان تولید متن روان و قانعکننده» و «قابلیت تصمیمسازی قابلاتکا و مسئولانه» شکافی جدی وجود دارد. شکافی که اگر نادیده گرفته شود، میتواند خروجی هوش مصنوعی را از یک ابزار کمکی به یک عامل مخرب و تهدید آفرین تبدیل کند.
این نوشتار کوتاه با رویکردی تحلیلی و مبتنی بر نمونههای واقعی، به بررسی مهمترین خطاها و گافهای منتسب به مدلهای زبانی بزرگ و چتباتهای مبتنی بر این فناوری میپردازد؛ خطاهایی که در برخی موارد صرفاً به هزینههای اعتباری، حقوقی یا سازمانی منجر شدهاند و در برخی دیگر، پیامدهایی بهمراتب عمیقتر داشته و پای سلامت روان و حتی جان انسانها را به میان کشیدهاند. هدف از این بررسی، ایجاد هراس از فناوری نیست، بلکه روشنکردن مرز میان «استفاده هوشمندانه» و «اتکای پرخطر» به هوش مصنوعی مولد محسوب میشود.