در دنیایی که هوش مصنوعی با سرعتی سرسامآور در حال ورود به زندگی روزمره ماست، رفتار ما با این فناوری نوین نیز خود به یک چالش فرهنگی، فنی و اقتصادی تبدیل شده است. شاید تصورش سخت باشد، اما همین که در گفتگو با چتباتها کلماتی مثل «لطفاً» و «ممنونم» را بهکار ببریم، میتواند سالانه میلیونها دلار هزینه اضافی برای شرکتهای فناوری به همراه داشته باشد
افزایش حجم پردازش (Compute Cost)
وقتی شما یه عبارت ساده مثل «لطفاً یه ایمیل برام بنویس» رو میفرستی، مدل باید تمام جمله رو پردازش کنه. حالا فرض کن یه میلیون نفر بهجای «نوشتن یه ایمیل»، بنویسن:
«سلام! لطفاً یه ایمیل برام بنویس. ممنونم ازت :)»
مدل باید کلمات اضافه رو هم بخونه، درک کنه، وزن بده، و وارد روند محاسباتی کنه. حتی اگه «لطفاً» و «ممنونم» معنای خیلی خاصی نداشته باشن توی پردازش نهایی، باز هم باعث افزایش تعداد توکنها میشن.
توکنها یعنی پول
بیشتر مدلهای زبانی مثل GPT براساس تعداد توکنها (قطعههای کوچک متن) هزینه پردازش دارن.
مثلاً:
- «سلام» = ۱ توکن
- «لطفاً یه ایمیل بنویس» = ۶ توکن
- «سلام! لطفاً یه ایمیل برام بنویس. ممنونم ازت :)» = حدود ۱۴–۱۶ توکن
در مقیاس میلیونها درخواست، اضافه شدن فقط ۵–۱۰ توکن اضافی در هر پیام، میتونه باعث مصرف میلیونها دلار بیشتر در هزینههای سرور و محاسباتی بشه.
مقیاس بزرگ یعنی هزینه بزرگ
فرض کن یک چتبات محبوب روزانه ۱۰۰ میلیون پیام دریافت میکنه. اگر هر پیام فقط ۵ توکن اضافی شامل ادب و احترام داشته باشه، میشه:
۵ توکن × ۱۰۰ میلیون = ۵۰۰ میلیون توکن اضافی در روز
با فرض اینکه پردازش هر ۱ میلیون توکن حدود ۰.۰۱ تا ۰.۱ دلار هزینه داشته باشه (بسته به مدل)، میرسیم به دهها هزار دلار فقط بابت کلمات مودبانه!
هر واژه مودبانه اضافه = توکن بیشتر = هزینه بالاتر
آیا چتباتها از ادب ما خوششان میآید؟
پاسخ فنی این است: چتباتها احساس ندارند، پس از نظر آنها «لطفاً» و «ممنونم» هیچ تفاوتی با کلمات دیگر ندارد. اما از دیدگاه طراحان مدل، این رفتار میتواند بر کیفیت پاسخ اثر بگذارد. چرا که مدلها ممکن است با دیدن جملات مودبانه، فرض کنند کاربر در حال طرح یک درخواست خاصتر یا پیچیدهتر است و برای آن پردازش بیشتری صرف کنند.
نتیجه اخلاقی؟
حالا یه دوگانگی پیش میاد:
از نظر انسانی و تربیتی، تشویق میشیم مودب باشیم حتی با رباتها. ولی از نظر بهینهسازی منابع، سازمانها ترجیح میدن کاربران مختصر، مفید و بیپرده حرف بزنن.
حتی بعضی شرکتها توی اسناد داخلی به کارمندها میگن:
«با چتباتها مثل ماشین رفتار کنید، نه آدم. لطفاً لطف نکنید!»
پیام شما به ما