Доклад предупреждава, че AI в Google Search носи неприемлив риск за деца

Bloomberg описва доклад на Youth AI Safety Institute към Common Sense Media, според който AI функциите в Google Search създават неприемлив риск за деца. Изследването е тествало хиляди заявки и е открило пропуски при теми като психично здраве, хранителни разстройства и вредно съдържание. Най-важният детайл е мащабът: това не е отделен чатбот, който родител може лесно да забрани, а част от стандартната търсачка.

Промяната в търсенето е фундаментална. Вместо потребителят да получи списък с линкове и сам да сравни източници, AI системата предлага синтезиран отговор, който често изглежда окончателен. За възрастни това вече е проблем при сложни теми. За деца рискът е по-голям, защото авторитетът на Google може да направи грешен или непълен отговор по-убедителен.

За Alphabet спорът идва в неудобен момент. Компанията трябва да внедрява AI бързо, защото конкуренцията от OpenAI, Anthropic и други модели заплашва основния и бизнес. Но колкото по-дълбоко AI навлиза в търсачката, толкова повече Google носи отговорност за поведение, което преди можеше да бъде приписано на външни сайтове. Това променя регулаторната и правната експозиция.

Дебатът за детската безопасност може да се превърне в една от първите големи регулаторни фронтове за AI търсенето. Социалните мрежи вече са под натиск за вреди върху непълнолетни. Ако търсачките започнат да дават генеративни съвети по чувствителни теми, политиците вероятно ще поискат по-строги контроли, възможност за изключване и по-ясно обозначаване на несигурни отговори.

За училища и родители най-практичният проблем е управлението. Ако AI функциите са вградени по подразбиране и трудно се изключват, институциите губят контрол върху средата, в която децата търсят информация. Това може да създаде нови изисквания към образователни устройства, профили за непълнолетни и настройки за администратори.

За рекламния бизнес на Google това също не е малък въпрос. Ако регулаторите наложат по-строги режими за непълнолетни или отделни училищни среди, компанията ще трябва да поддържа повече версии на един и същ продукт. Това може да повиши разходите и да забави част от AI внедряването, но игнорирането на проблема би било по-скъпо при съдебни дела или забрани.

Изводът е, че AI търсенето вече е обществена инфраструктура, не експеримент. Когато продукт с милиарди потребители променя начина, по който знанието се представя, стандартът за безопасност трябва да бъде по-висок от този за нова функция в приложение. Google може да твърди, че има защитни слоеве, но пазарът и регулаторите ще гледат резултатите, не намеренията.