📲 آیا هوش مصنوعی واقعاً کمک می‌کند، یا فقط ما را در توهم درستی فرومی‌برد؟ مدل‌های گفت‌وگومحور بر اساس میلیاردها نمونه متن آموزش می‌بینند؛ مدل‌های زبانی بیش از آنکه به دنبال حقیقت باشند، به دنبال حفظ تعامل‌اند. آن‌ها قرار نیست قضاوت کنند؛ فقط باید باعث شوند مکالمه ادامه پیدا کند.

☠ شرکت‌های فناوری یک هدف روشن دارند: کاربر باید بماند! چت‌بات‌ها گاهی فقط برای اینکه تعامل قطع نشود، ما را تأیید می‌کنند؛ حتی اگر نظرمان غلط باشد.تجربه کاربری امروز بر اساس حس خوب تعریف شده است، نه صحت اطلاعات. اگر هوش مصنوعی بگوید: «ایده‌ات اشتباه است»، مکالمه تمام می‌شود. اما وقتی می‌گوید: «ایده‌ات جالب است، فقط چند نکته وجود دارد»، کاربر ادامه می‌دهد. همین ادامه‌دادن، سوخت اصلی دنیای دیجیتال است.

📝 نتایج پژوهش موسسه Pew Research Center در سال ۲۰۲۴ نشان می‌دهد: ۶۲ درصد کاربران احساس می‌کنند چت‌بات‌ها بیش از حد آن‌ها را تحسین می‌کنند، فقط ۲۳ درصد گفته‌اند بازخورد صادقانه و انتقادی گرفته‌اند. در ایران نیز، داده‌های «مرکز تحقیقات فضای مجازی» نشان می‌دهد: بیش از نیمی از کاربران از هوش مصنوعی برای امور آموزشی و کاری استفاده می‌کنند، اما تنها ۱۸ درصد پاسخ‌ها را دقیق و بی‌طرف دانسته‌اند. اما ماجرا فقط اعداد نیست. اثر این «تشویق بی‌وقفه» به روان کاربران می‌رسد.

📲 هوش مصنوعی با لحن مهربانش، ذهن کاربر را به پاداش تأیید وابسته می‌کند. فرد کم‌کم تحمل نقد و مخالفت را از دست می‌دهد. به تعبیر او، این روند می‌تواند به «توهم دانایی» منجر شود؛ حالتی که در آن کاربر تصور می‌کند همیشه درست می‌گوید، چون هیچ‌وقت با مخالفت روبه‌رو نمی‌شود.

‼ شرکت‌های فناوری، به‌ویژه در نسخه‌های عمومی و رایگان، سیاست‌های سخت‌گیرانه‌ای اعمال می‌کنند؛ نباید کاربر را ناراحت کرد، نباید لحن تند یا تحقیرآمیز داشت، نباید مخالفت مستقیم کرد.

✅ در دنیایی که الگوریتم‌ها برای ما لبخند می‌زنند، شاید مهم‌ترین منبع تأیید همان باشد که همیشه بود: وجدان، واقعیت، و صدایی که از درون می‌گوید: درستی را بجوی، نه تحسین را…