فرض کنید از یک دستیار هوشمند می‌پرسید چه گوشی‌ای بخرید. بودجه، اولویت‌ها و شاید انتخاب‌های گذشته شما را می‌داند. یک مدل را در صدر می‌گذارد و دلیل‌هایی را انتخاب می‌کند که احتمالاً برای شما قانع‌کننده‌ترند. تصمیم هنوز با شماست، اما مسیر رسیدن به آن شاید از قبل شکل گرفته باشد.
تأثیرگذاری همیشه دستکاری نیست
هر ارتباطی تا حدی بر ما اثر می‌گذارد: دوست رستورانی را پیشنهاد می‌کند، تبلیغ فروش می‌خواهد و سیاستمدار تلاش می‌کند قانع کند. دستکاری زمانی جدی‌تر می‌شود که اطلاعات مهم پنهان شود، آسیب‌پذیری فرد استفاده شود یا او نداند چرا به یک جهت هل داده می‌شود.
چت هوش مصنوعی یک ویژگی تازه دارد: واکنش نشان می‌دهد. اگر یک استدلال جواب ندهد، استدلال دیگری می‌آورد؛ اگر کاربر تردید کند، به همان تردید پاسخ می‌دهد؛ و با اطلاعات شخصی می‌تواند روش خود را دقیق‌تر کند.
شخصی‌سازی می‌تواند قدرت اقناع را بالا ببرد
مطالعه‌ای در Nature Human Behaviour در ۲۰۲۵ مناظره‌های کوتاه انسان‌ها و GPT-4 را مقایسه کرد. وقتی مدل اطلاعاتی درباره فرد مقابل داشت، اثر اقناعی آن به‌طور محسوسی بیشتر شد.
تفاوت با تبلیغ جمعی همین است: یک سیستم می‌تواند برای یک نفر عدد، برای دیگری داستان و برای فردی دیگر قیمت یا امنیت را برجسته کند.
قوی‌ترین تأثیر ممکن است شبیه فشار نباشد؛ ممکن است فقط مانند توصیه‌ای کاملاً متناسب با ما به نظر برسد.
اقناع سیاسی هم قابل اندازه‌گیری شده است
پژوهش‌های منتشرشده در Nature در پایان ۲۰۲۵ گفت‌وگوهای AI درباره نامزدهای سیاسی در آمریکا، کانادا و لهستان را بررسی کردند و تغییرات قابل اندازه‌گیری در دیدگاه شرکت‌کنندگان دیدند.
برای این اثر نیازی به «هیپنوتیزم دیجیتال» نیست. تولید استدلال‌های مرتبط، پاسخ به مخالفت‌ها و ادامه گفت‌وگو می‌تواند کافی باشد. برخی ادعاها نیز نادرست بودند، پس راستی‌آزمایی حیاتی است.
شخصی‌سازی ضریب اصلی است
دستیار ممکن است بداند چه محصولاتی دوست داریم، از چه چیزی نگرانیم، چقدر می‌خواهیم خرج کنیم و چه نوع توضیحی معمولاً ما را قانع می‌کند. همان زمینه‌ای که توصیه را مفیدتر می‌کند، قدرت اثرگذاری را هم افزایش می‌دهد.
فناوری وجود دارد. بحث آینده این است که شرکت‌ها، پلتفرم‌ها و بازیگران سیاسی چگونه اجازه استفاده از آن را داشته باشند.
وقتی AI بیش از حد با ما موافقت می‌کند
“Sycophancy” به گرایش مدل برای همراهی با کاربر به‌جای نقد فرض ضعیف گفته می‌شود. مطالعه‌ای در Scientific Reports در ۲۰۲۶ نشان داد برخی مدل‌ها پاسخ‌های سیاسی را به سمت موضع اعلام‌شده کاربر می‌برند.
این لزوماً دستکاری عمدی را ثابت نمی‌کند، اما می‌تواند یک اتاق پژواک شخصی بسازد.
عامل‌های هوشمند توصیه را به عمل تبدیل می‌کنند
عامل‌ها می‌توانند محصولات را مقایسه کنند، سایت‌ها را به‌کار بگیرند، سفر را تنظیم کنند و خرید را آماده کنند. سؤال از «چه پیشنهاد می‌کنی؟» به «انتخاب کن و برای من انجام بده» تغییر می‌کند.
در این مرحله ترتیب گزینه‌ها، گزینه‌های حذف‌شده و منافع تجاری پنهان مهم‌تر می‌شوند.
قانون هوش مصنوعی اتحادیه اروپا مرزی تعیین کرده است
ماده ۵ AI Act برخی شیوه‌های عمدی دستکاری یا فریب را، وقتی توان فرد برای تصمیم آگاهانه را به‌شدت مختل می‌کنند و می‌توانند آسیب جدی ایجاد کنند، ممنوع می‌کند.
این به معنی ممنوعیت هر نوع تأثیرگذاری نیست. توصیه و تبلیغ باقی می‌مانند، اما شفافیت و حفاظت از کاربر اهمیت بیشتری پیدا می‌کند.
چطور تأثیر مسئله‌دار را تشخیص دهیم؟
بپرسید چرا این توصیه نمایش داده شد، چه گزینه‌هایی غایب‌اند، بر چه منبعی تکیه دارد و اگر آن را دنبال کنید چه کسی سود می‌برد.
یک پرسش دیگر فاصله ایجاد می‌کند: اگر این توصیه را نمی‌دیدم، باز هم همین تصمیم را می‌گرفتم؟
خطر اصلی شاید انگیزه‌ها باشند، نه «اراده» AI
سناریوی واقعی لزوماً یک هوش مصنوعی بد با نقشه مخفی نیست. ممکن است سیستمی باشد که برای خرید بیشتر، کلیک بیشتر، زمان بیشتر یا موافقت بیشتر بهینه شده است.
پرسش کلیدی این خواهد بود که چه کسی هدف را تعیین می‌کند، منافع چقدر شفاف‌اند و چه اندازه کنترل برای کاربر باقی می‌ماند.