هوش مصنوعی تصمیم‌گیری افراد را دستکاری می‌کند

به گزارش ملت ما از گاردین، این مطالعه یک بازار جدید در حال ظهور برای «سیگنال های دیجیتالی تصمیم» که معروف به «اقتصاد تصمیم» است برجسته می کند. به عبارت دیگر، دستیاران هوش مصنوعی اهداف انسان را درک، پیش بینی و دستکاری می کنند و این اطلاعات را به شرکت هایی که از آن سود می برند، می فروشند.

در «اقتصاد تصمیم» شرکت‌های فناوری هوش مصنوعی آنچه را درباره انگیزه‌های شما می‌دانند، از برنامه‌های اقامت در هتل گرفته تا نظر شما درباره یک نامزد سیاسی را به بالاترین پیشنهاد می‌فروشند.

جانی پن، مورخ فناوری می‌گوید: طی چندین دهه مفهوم «توجه» ملاک اصلی تبلیغات اینترنتی بوده است. به اشتراک گذاشتن توجه شما با پلتفرم های رسانه های اجتماعی مانند فیس‌بوک و اینستاگرام باعث رشد اقتصاد آنلاین شد.

او افزود: اقتصاد تصمیم تا زمانی که تنظیم‌گری نشود، انگیزه های شما را به عنوان معیار جدید در نظر می گیرد. کسانی که نیات انسانی را هدف قرار می دهند، هدایت می کنند و می فروشند، نانشان در روغن است. ما قبل از اینکه قربانی پیامدهای ناخواسته آن شویم، باید شروع کنیم به بررسی تأثیر احتمالی چنین بازاری بر آرزوهای بشر، از جمله انتخابات آزاد و منصفانه، مطبوعات آزاد و رقابت منصفانه در بازار.

این مطالعه ادعا می‌کند که مدل‌های زبانی بزرگ (LLMs)، مثل چت جی‌پی‌تی، برای «پیش‌بینی و هدایت» کاربران بر اساس «داده‌های رفتاری و روان‌شناختی» استفاده خواهد شد.