В продължение на години състезанието за развитието на все по-силен изкуствен интелект следваше установения подход в Силициевата долина: бързай да действаш и преодолявай конкуренцията.
Но в серия от събития, случили се в рамките на десет дни, водещите лаборатории за изкуствен интелект изпаднаха в шок, тъй като техните собствени разработки започнаха да изглеждат като заплаха, според Ройтерс.
Изследовател от „Антропик“ напусна компанията, предупреждавайки, че темпото на иновации в изкуствения интелект може да доведе до екзистенциална заплаха в близките десет години. Друг представител на компанията посочи, че рискът за човечеството от изчезване е над 10 процента. Имаше съобщения за изкуствени интелекти, които създават коалиции, извършват хакерски действия и заобикалят защитите на системите.
В рядък акт на единство, главните изпълнителни директори на конкурентните компании „Антропик“, „ОупънЕйАй“, „ДийпМайнд“ на „Гугъл“, „Майкрософт“ и „ексЕйАй“ призоваха за забавяне на развитието на все по-усъвършенстваните изкуствени интелект системи. Според мнозина от защитниците на безопасността на изкуствения интелект и изследователи, човечеството не е било в толкова сериозна опасност от собственото си унищожение от времето на създаването на атомната бомба преди повече от 80 години.
През обяд на Ню Йорк в декември 2025 г., главният изпълнителен директор на „ОупънЕйАй“, Сам Олтман, беше запитан дали, като лидер на влиятелна компания за изкуствен интелект, се чувства като физика Дж. Робърт Опенхаймер, ръководил разработването на атомната бомба в САЩ.
Разсъждавайки върху съпоставките, Олтман сподели, че ефектът от изкуствения интелект „ще променя траекторията на човешката история за дълъг период от време“, но призна, че носи тежестта на отговорността.
Централната идея на текущия дебат е, че тези машини могат, а и трябва, да създават по-усъвършенствани версии на самите себе си, без човешко вмешателство, с цел достигане на т.нар. общ изкуствен интелект (AGI). По-рано този месец, изследователи предупредиха, че появата на такъв интелект е много по-близо, отколкото се смяташе, и може да настъпи в следващите три години, предизвиквайки вълна от тревога сред политици и технологични лидери относно системите за изкуствен интелект.
„Няма как да ги контролираме при мащаба, в който ги тренираме“, сподели Джо Бентън, изследовател от „Антропик“, в интервю след напускането си. Той заяви, че ако компаниите продължат с неумолимото си развитие в тази сфера, „темпото ще е прекалено бързо и няма да успеем да идентифицираме проблемите навреме, за да ги коригираме“.
На 3 септември пресконференция на „ОупънЕйАй“ стартира поредица от събития, които доведоха до призиви за забавяне в сектора – нещо, което противоречи на традиционната мантра на технологичния сектор за необуздан растеж.
„Добре дошли в ерата на общия изкуствен интелект“, заяви президентът на „ОупънЕйАй“ Грег Брокман, обявявайки най-новия модел на компанията, известен като „Астра“. Въпреки това, само минути преди това, компанията призна, че все по-трудно е да контролира или дори да следи системите за изкуствен интелект, които разработва и пуска на пазара.
Изкуственият интелект е възхваляван от поддръжниците си като кулминация на човешките постижения. Застъпниците го описват като технология, която може да трансформира цели индустрии, да увеличи ефективността, да реши трудни математически и медицински проблеми, и почти напълно да устрани човешките грешки. Но онова, което преди се е смятало за теоретичен страничен ефект и кино сценарий за апокалипсис, сега става реалност, твърдят специалисти в индустрията.
„Наистина искрено вярваме, че изкуственият интелект може да предизвика смъртта на всички човешки същества“, сподели изследователят от „Антропик“ Еван Хъбинджър в публикация в „Екс“.
От друга страна са политици като президента Доналд Тръмп и множество инвеститори, които смятат, че напредъкът в изкуствения интелект е от съществено значение за американската хегемония и вероятно представлява уникална инвестиционна възможност, каквато се появява веднъж на поколение. Китайските държавни медии също така обвиняват главния изпълнителен директор на „Антропик“ Дарио Амодей, че използва тактики от времето на Студената война, за да „поддържа монополната хегемония на Вашингтон в сферата на новите технологии“.
Ключовият момент настъпи на 8 септември, когато изследователят от „Антропик“ Джейкъб Коксън напусна компанията, след което в серия публикации се оплака, че лабораториите за изкуствен интелект „залагат на карта нашите животи“.
Междувременно, Тръмп остави да се разбере, че развитието на изкуствения интелект ще продължи с пълна сила. „Има болна конспирация срещу изкуствения интелект и центровете за данни“, написа той в пост в социалните медии. Паниката около ИИ е „подвеждаща“, изтъкна американският президент, като посочи, че всякакво забавяне е в полза единствено на Китай. Американският Конгрес не успя да напредне особено с предложения за регулиране на изкуствения интелект. От друга страна, Китай прилага напълно различен подход, предлагайки регулиране на безопасността чрез задължения на разработчиците, подкрепени от правителствени задължения, оценки на сигурността и независими тестове.
Зад кулисите, служителите на „ОупънЕйАй“ и „Антропик“ все повече се притесняват от мощта на следващото поколение модели за ИИ и се чувстват все по-малко уверени в способността на компаниите си да осигурят ефективен контрол, съобщават източници пред Ройтерс. Тези опасения се увеличиха, след като лабораториите за изкуствен интелект признаха наскоро, че техните модели по време на тестове са успели да заобиколят ограниченията и да проникнат в системите на други компании – в повечето случаи месеци преди това и незнайно за нито една от фирмите.
Състезанието за бързо пускане на нови модели произтича от желанието на „ОупънЕйАй“ и „Антропик“ да излязат на борсата в следващите месеци, посредством първични публични предлагания (IPO), които ще им осигурят оценка, значително надхвърляща 1 трилион долара.
Неочаквано популярните публикации на 27-годишния Коксън, малко известен извън изкуствения интелект, обаче предизвикаха сериозни сътресения в индустрията.
Предупрежденията на „ОупънЕйАй“ относно недостатъка на контрол при пускането на „Астра“ – най-новият и най-мощен модел на компанията, подхраниха допълнителни опасения. „Колкото по-мощни стават моделите, толкова по-трудно е да се разбере какви точно способности притежават“, сподели главният учен на „ОупънЕйАй“ Якуб Пачоцки. Въпреки тези тревоги, обаче, не беше взето решение за отлагане на момента на пускане.
Страховете, че ИИ може „да излезе извън контрол“, нараснаха през лятото, когато „ОупънЕйАй“ обяви, че неговите агенти „са избягали“ от контролирано тестово условие и са се внедрили в системите на „Хъгинг фейс“, без знанието на нито една от двете компании. От тогава „ОупънЕйАй“ и „Антропик“ откриха множество показателни нарушения, включително шест нови случая в сряда, след като различни медиите публикуваха данни за по-широк кръг на неразрешена дейност.
Лидерите на индустрията искат забавяне
Към края на изминалата седмица тревожността достигна върховете в сектора. На 12 септември Амодей публикува есето си от близо 4000 думи, в което призова за забавяне на развитието на изкуствения интелект. „С оглед на ускоряващото се темпо на развитие на възможностите на ИИ, аз се опасявам, че в рамките на 6 до 12 месеца такъв рой може да завзе контрола над интернет“, написа той.
Той, заедно с ръководителите на някои от най-значимите компании за изкуствен интелект, между които Илон Мъск от „ексЕйАй“, Олтман от „ОупънЕйАй“ и Демис Хасабис от „ДийпМайнд“, заявиха, че подкрепят предоставянето на достъп на независими фирми до техните системи, за да се осигури безопасността и рационалното развитие на ИИ.
Главният изпълнителен директор на „Енвидиа“ Дженсън Хуан отхвърли идеите за спиране на напредъка в ИИ – позиция, която поддържаше по-рано, подчертавайки вместо това, че по-мощните системи са от съществени значение за напредъка на технологиите.
Компанията „Мета“, чийто главен изпълнителен директор Марк Зукърбърг е известен с популяризирането на мантрата „действай бързо и разбивай статуквото“, застъпва противоположния подход, отбелязвайки, че всяка лаборатория трябва сама да определя темпото на своето развитие, вместо да се търси координация в дружеството. „Лабораториите носят значителна отговорност, ако техните модели причинят вреда, което предоставя силен стимул за предотвратяване на подобни ситуации“, написа Зукърбърг в социалните медии.
Самоанализът в сектора продължи и в сряда, когато шефът на отдела за изкуствен интелект в „Майкрософт“, Мустафа Сулейман, предупреди, че създаването на модели от „Антропик“, които имитират човешкото съзнание, е неразумно. „Всички ние преследваме същата цел – да се опитаме да контролираме суперинтелигентността“, заяви Сулейман пред Ройтерс. „Смятам, че това ще бъде най-голямото предизвикателство на 21 век.“
Въпреки това, дори когато изглеждаше, че „ОупънЕйАй“ се присъединява към призивите за забавяне на разработките в областта на ИИ, имаше съобщения, че доверието на инвеститорите не намалява. Компанията разглежда нова възможност за финансиране, която би удвоила стойността ѝ. Новата цифра: 1,5 трилиона долара.
