Колко дълбоко AI вече манипулира емоциите ни
Рискът вече не е само дезинформация и deepfake съдържание, а модели, които могат да насочват настроение, доверие и потребителско поведение.
Financial Times поставя важен въпрос за следващата фаза на AI риска: не само дали моделите лъжат, а дали могат да влияят върху емоционалните реакции на хората. Дезинформацията и deepfake съдържанието са видимите проблеми. По-трудният въпрос е какво става, когато езикови модели, препоръчващи системи и персонализирани интерфейси започнат да настройват тон, избор и доверие според психологически профил.
Това има значение за бизнеса. Компаниите ще използват AI за продажби, обслужване, маркетинг и вътрешна комуникация. Ако системите оптимизират не само информация, а емоционална реакция, границата между полезна персонализация и манипулация става тънка. Един chatbot може да бъде любезен помощник, но може и да подтиква към покупка, политическа позиция или доверие в услуга по начин, който потребителят не разбира.
Регулаторите ще се сблъскат с трудна задача. Лесно е да се забрани фалшиво видео, което имитира политик. Много по-трудно е да се докаже, че моделът систематично усилва страх, вина, самота или зависимост. Данните за емоции са чувствителни, но често се събират индиректно чрез поведение: време на екрана, реакции, тон на съобщенията, покупки и откази.
За инвеститорите това е репутационен и правен риск. AI компании, платформи и рекламни мрежи могат да растат бързо, ако показват по-висока ангажираност. Но ако тази ангажираност изглежда като психологическа експлоатация, може да последват ограничения, съдебни дела и загуба на доверие. Това е подобно на социалните мрежи, но с по-силни инструменти и по-персонален интерфейс.
Най-разумният подход е прозрачност по дизайн. Потребителите трябва да знаят кога общуват с AI, какви данни се използват и дали системата е оптимизирана за помощ, продажба или задържане на внимание. AI може да бъде полезен, но ако започне да изглежда като невидим психологически брокер, обществената реакция ще бъде остра. Следващата битка за доверието към технологията ще бъде емоционална, не само техническа.
Това ще промени и корпоративното управление. Бордовете ще трябва да питат не само дали AI системите са точни, а дали са честни в начина, по който влияят на хората. Рискът не е само глоба от регулатор, а ерозия на доверие към продукт, марка или платформа. Компаниите, които изградят ясни правила за емоционално въздействие, може да изглеждат по-бавни в краткосрочен план, но по-устойчиви в следващия регулаторен цикъл. Доверието ще стане продуктова характеристика.