Шефът на Anthropic настоява държавата да може да спира опасни AI модели
Предложението превръща безопасността на AI в регулаторен въпрос, сравним с лекарства, самолети и критична инфраструктура.
Bloomberg съобщава през NDTV Profit, че Дарио Амодей от Anthropic подкрепя идея правителството да има право да блокира внедряването на AI модели, ако независими тестове покажат неприемлив риск. Това е силен сигнал от самата индустрия. Най-големите лаборатории вече не говорят само за скорост и способности, а за рамка, в която част от технологичния прогрес може да бъде спиран преди да стигне до пазара.
Аргументът на Anthropic е, че най-напредналите модели могат да улеснят кибератаки, биологични рискове или други чувствителни дейности. Ако това е вярно, обикновеният софтуерен модел на пускане, поправяне и обновяване не е достатъчен. При опасни системи обществото иска предварителна проверка, а не извинение след инцидента. Затова аналогията с лекарства и авиация става политически полезна.
За бизнеса подобна регулация носи двоен ефект. От една страна, тя може да забави продукти, да увеличи разходите и да даде предимство на компании с големи compliance екипи. От друга, ясните правила могат да намалят хаоса и да направят корпоративните клиенти по-склонни да внедряват AI в банки, болници, правни услуги и публична администрация.
Геополитическият проблем е, че САЩ не регулират във вакуум. Ако американските модели се забавят, китайски или други конкуренти могат да заемат пазари с по-малко ограничения. Но ако Вашингтон позволи безконтролно внедряване, всяка голяма авария ще даде аргумент на противниците на AI. Балансът между безопасност и конкурентоспособност ще бъде една от големите теми на следващите години.
За инвеститорите това означава, че AI оценките трябва да включват регулаторен график. Най-важният въпрос не е само дали моделът е по-умен, а кога може да бъде продаван, на кого, при какви ограничения и с каква отговорност. Компании, които управляват риска убедително, могат да получат премия. Тези, които изглеждат безразсъдни, ще плащат чрез забавени продукти и по-висока цена на капитала.
Най-трудната част ще бъде дефиницията на неприемлив риск. Един модел може да бъде опасен в ръцете на престъпна група, но полезен за лекар, учен или инженер. Ако правилата са прекалено широки, те ще задушат иновацията. Ако са прекалено тесни, ще изглеждат като театър след първия голям инцидент. Затова индустрията и държавата ще трябва да изградят тестове, които са технически сериозни и политически защитими за съдилища, клиенти и съюзници.