Как може да се пренасочи AI надпреварата
Разговорът на The Economist за AI поставя въпроса дали държавите и компаниите могат да забавят опасната логика на състезанието без да спрат иновацията.
The Economist поставя отново въпроса как може да се пренасочи AI надпреварата, вместо тя просто да се ускорява. Днешната логика е ясна: компании и държави се страхуват да изостанат, затова пускат все по-мощни системи, финансират все по-големи центрове за данни и приемат, че безопасността ще навакса по-късно. Това е удобна логика, докато не стане опасна.
Проблемът е, че AI е едновременно търговска технология и стратегически актив. Ако една компания забави продукт за повече тестове, конкурентът може да спечели пазара. Ако една държава наложи строг режим, друга може да привлече инвестиции. Така всички имат стимул да натискат газта, дори когато публично говорят за предпазливост. Това не е злодейски план. Това е лоша система от стимули.
Пренасочването на надпреварата би означавало по-ясни правила за най-мощните модели: тестове преди пускане, одити, контрол върху критични способности, споделяне на инциденти и международна координация. Това няма да бъде лесно, защото компаниите ще пазят търговски тайни, а държавите ще пазят военни предимства. Но без минимални общи правила, безопасността остава обещание на добра воля.
Икономическият въпрос е дали по-бавният AI може да бъде по-добър AI. Ако системите бъдат внедрявани с повече доверие, регулатори, банки, здравни институции и правителства може да ги приемат по-широко. Обратното също е възможно: един голям инцидент може да предизвика реакция, която да удари целия сектор. Понякога спирачките не забавят колата. Те позволяват да караш по-дълго.
За Европа темата е особено важна. Континентът няма мащаба на американските платформи или държавната мобилизация на Китай, но може да влияе чрез правила, стандарти и надеждни приложения. Ако обаче регулацията остане без собствена инфраструктура, Европа ще бъде морален редактор на чужда технология. Това е по-добре от нищо, но не е стратегия.
AI надпреварата няма да бъде спряна с красиви декларации. Тя може да бъде пренасочена само ако безопасността, достъпът до изчисления и отговорността станат част от пазарната архитектура. Иначе всяка компания ще казва, че е внимателна, докато се състезава да бъде първа. Това е човешко, разбираемо и точно затова опасно.
Най-добрият вариант е конкуренция с предпазни релси: достатъчно силна, за да поддържа иновация, и достатъчно регулирана, за да предотвратява системни грешки. Това звучи скучно, но скуката понякога е добър дизайн. При технология с такъв мащаб най-опасната стратегия е да бъркаш скоростта с мъдрост.