با وجود وعدههای اولیه مبنی بر اینکه هوش مصنوعی به زودی «آنقدر ارزان میشود که دیگر به حساب آوردن هزینههایش ضرورتی ندارد»، گزارش جدیدی از والاستریت ژورنال نشان میدهد که واقعیت بازار و مسیر پیشروی صنعت بهمراتب پرهزینهتر از پیشبینیهاست. استارتآپها و توسعهدهندگانی که از مدلهای زبانی بزرگ برای ساخت اپلیکیشنهای تحلیل اسناد، تولید کد یا دستیارهای تحقیقاتی استفاده میکنند، اکنون با صورتحسابهای سنگین و رو به رشد مواجه هستند.
به گزارش پیوست، گرچه هزینه پردازش هر «توکن» (واحد محاسباتی مدلهای هوش مصنوعی) به شکل قابل توجهی در حال کاهش است، اما افزایش پیچیدگی مدلها و رویکرد به ویژه مدلهای استدلالگر، سبب شدهاند تا تعداد توکنهای مورد نیاز برای انجام یک کار ساده به شدت افزایش یابد.
اگرچه یک گفتوگوی ساده با چتبات ممکن است تنها با صد توکن انجام گیرد، اما کدنویسی پیچیده یا تحلیل یک سند حقوقی نیازمند مصرف صدها هزار توکن است.