تاثیر هوش مصنوعی بر تصمیمات آنلاین ما

به گزارش گاردین، مطالعه‌ای پیش‌بینی کرده که در آینده بازاری به نام «اقتصاد قصد» (intention economy) شکل خواهد گرفت، جایی که شرکت‌ها برای پیش‌بینی دقیق رفتارهای انسانی رقابت می‌کنند. در واقع اقتصاد قصد رویکردی برای مشاهده بازارها و اقتصادهایی است که بر خریداران به عنوان یک کالای کمیاب تمرکز دارند.
به گفته پژوهشگران دانشگاه کمبریج، ابزارهای هوش مصنوعی می‌توانند کاربران آنلاین را برای تصمیم‌گیری‌های مختلف – از خرید یک کالا تا انتخاب یک نامزد سیاسی – تحت تأثیر قرار دهند.

این تحقیق به ظهور بازاری جدید به نام «اقتصاد قصد» اشاره دارد؛ بازاری که در آن دستیارهای هوش مصنوعی نیت‌ها و مقاصد انسانی را درک، پیش‌بینی و حتی دستکاری می‌کنند و سپس این اطلاعات را به شرکت‌هایی می‌فروشند که از آن سود می‌برند.
این اقتصاد به‌عنوان جانشینی برای «اقتصاد توجه» (attention economy) مطرح شده، بازاری که در آن شبکه‌های اجتماعی با مشغول نگه‌داشتن کاربران و نمایش تبلیغات، درآمدزایی می‌کنند.

اقتصاد توجه به انگیزه‌های شرکت‌های به‌ویژه تبلیغات محور برای به حداکثر رساندن زمان و توجه کاربرانشان به محصولی که می‌فروشند اشاره دارد. اقتصاد توجه رویکردی به مدیریت اطلاعات است که توجه انسان را به عنوان یک کالای کمیاب در نظر می‌گیرد و تئوری اقتصادی را برای حل مشکلات مختلف مدیریت اطلاعات به کار می‌گیرد.

در اقتصاد قصد، شرکت‌های فعال در حوزه فناوری و هوش مصنوعی، اطلاعاتی درباره انگیزه‌ها و مقاصد شما – از برنامه‌ریزی برای اقامت در هتل گرفته تا نظر شما درباره یک نامزد سیاسی – را به بالاترین پیشنهاددهنده می‌فروشند.

دکتر جانی پن، تاریخ‌نگار فناوری از کمبریج می‌گوید: «برای دهه‌ها، توجه مردم واحد اصلی ارزش در اینترنت بوده است. به اشتراک گذاشتن توجه‌تان با شبکه‌های اجتماعی مثل فیسبوک و اینستاگرام، اقتصاد آنلاین را شکل داده است. اگر این روند قانونمند نشود، اقتصاد قصد، انگیزه‌های شما را به ارز جدید تبدیل خواهد کرد. این وضع به رقابت شدیدی تبدیل می‌شود برای آن‌هایی که قصد دارند انگیزه‌های انسانی را هدف قرار داده، هدایت کنند و بفروشند.

باید پیش از آنکه قربانی پیامدهای ناخواسته این بازار شویم، تأثیر احتمالی آن بر آرزوهای انسانی، مانند انتخابات آزاد و عادلانه، مطبوعات آزاد و رقابت منصفانه در بازار را بررسی کنیم.»

آیا انگیزه‌های شما ارز جدید اینترنت خواهند شد؟

مطالعه نشان می‌دهد مدل‌های زبانی بزرگ که فناوری پشت ابزارهایی مثل چت‌بات ChatGPT هستند، با استفاده از داده‌های رفتاری و روان‌شناختی کاربران می‌توانند مقاصد آن‌ها را پیش‌بینی و هدایت کنند.

در اقتصاد توجه، تبلیغ‌دهندگان می‌توانند در لحظه به توجه کاربران دسترسی پیدا کنند، مثلاً از طریق حراج آنلاین تبلیغات، یا برای آینده، با خرید فضای تبلیغاتی برای یک ماه روی یک بیلبورد.
اما مدل‌های زبان بزرگ می‌توانند در لحظه و با دقت بیشتری توجه کاربران را جلب کنند؛ مثلاً بپرسند: «به دیدن فیلم اسپایدرمن امشب فکر کرده‌اید؟» یا پیشنهادهایی درباره برنامه‌های آینده بدهند، مانند: «گفتید احساس خستگی می‌کنید، آیا آن بلیت سینما که قبلاً صحبتش بود را برایتان رزرو کنم؟»

این مطالعه به سناریویی اشاره می‌کند که در آن چنین پیشنهاداتی بر اساس داده‌های رفتاری و روانی کاربران به صورت «پویا» تولید می‌شوند.

در این بازار، مدل‌های زبانی می‌توانند با هزینه کم، اطلاعاتی مثل لحن صحبت، سیاست‌ها، واژگان، سن، جنسیت، و حتی تمایل کاربر به تعریف و تمجید را تحلیل کرده و با تلفیق این اطلاعات با پیشنهادهای تبلیغاتی، احتمال دستیابی به هدفی خاص (مانند فروش بلیت سینما) را افزایش دهند. این مدل‌ها حتی می‌توانند گفتگوها را برای تبلیغ‌دهندگان، کسب‌وکارها و سایر طرف‌ها هدایت کنند.

این گزارش همچنین به استفاده تبلیغ‌کنندگان از ابزارهای هوش مصنوعی مولد برای ایجاد تبلیغات آنلاین شخصی‌سازی شده اشاره می‌کند. به‌عنوان مثال، مدل Cicero که توسط متا (فیسبوک) ساخته شده، توانسته است توانایی در سطح انسانی برای بازی Diplomacy (یک بازی مبتنی بر پیش‌بینی قصد‌ها) را به دست آورد.

مدل‌های هوش مصنوعی می‌توانند خروجی‌های خود را بر اساس داده‌های جدیدی که از کاربران دریافت می‌کنند، تغییر دهند. مطالعه نشان داده که این مدل‌ها قادرند اطلاعات شخصی کاربران را از تعاملات ساده استخراج کنند و حتی گفتگوها را طوری پیش ببرند که اطلاعات بیشتری از کاربر به دست آورند.

وقتی تصمیمات شما فروخته می‌شوند

این پژوهش سناریویی را مطرح می‌کند که در آن شرکت متا نیت کاربر برای رزرو رستوران، پرواز یا هتل را به تبلیغ‌دهندگان حراج می‌کند. هرچند صنعتی برای پیش‌بینی و حراج رفتار انسانی وجود دارد، هوش مصنوعی می‌تواند این فرآیندها را به شکلی «بسیار کمی، پویا و شخصی‌سازی شده» تبدیل کند.

این مطالعه به تیم پژوهشی Cicero اشاره می‌کند که هشدار داده‌اند یک «عامل هوش مصنوعی ممکن است یاد بگیرد تا شریک گفتگوی خود را برای رسیدن به هدف خاصی هدایت کند.»

در پایان، به گفته جنسن هوانگ، مدیرعامل Nvidia، مدل‌های هوش مصنوعی خواهند توانست قصد و نیت کاربران را پیش‌بینی کنند. او گفته بود: «این مدل‌ها متوجه می‌شوند که نیت شما چیست، چه می‌خواهید انجام دهید و بر اساس زمینه، اطلاعات مناسب را به بهترین شکل ممکن ارائه می‌کنند.»

https://www.theguardian.com/technology/2024/dec/30/ai-tools-may-soon-manipulate-peoples-online-decision-making-say-researchers

---