Държавните власти следва да имат възможност да искат от съда да забрани употребата на изкуствени интелектуални модели, които представляват „значителен риск“ за обществото. Тази позиция е изразена в писмо от „Антропик” (Anthropic) до губернатора на Калифорния, Гавин Нюсъм, датирано от 15 октомври, посочва Reuters.
Компанията „Антропик” е била обект на правителствени ограничения относно своите изкуствени интелект решения. През юни администрацията на Доналд Тръмп е наредила на компанията незабавно да ограничи международния достъп до своите модели „Митос 5” (Mythos 5) и „Фейбъл 5” (Fable 5) заради въпроси свързани с националната сигурност. Малко по-късно Министерството на търговията на САЩ отменило това нареждане.
„Ако проверка установи, че един модел представлява сериозен риск, правителството следва да може да поиска от съда да го блокира“, се посочва в кореспонденцията до Нюсъм.
Представител на „Антропик” потвърди автентичността на писмото. Офисът на губернатора на Калифорния не е направил коментар по запитването на този етап.
„Антропик” предложи своите препоръки след като през септември губернаторът свика група от експерти в областта на изкуствения интелект, които да разработят безопасни изисквания за ИИ.
Фирмата също така заяви, че се противопоставя на възможни изисквания към разработчиците да създават „аварийни спирачки“, които да деактивират цялостни ИИ модели, ако компаниите загубят контрол. Вместо това, „Антропик” предлага по-насочени мерки, като изключване на проблематичен ИИ агент или прекратяване на достъпа на конкретен клиент до определен модел, посочва се в писмото. Компанията вярва, че тези мерки биха били по-ефективни.
През септември група сенатори от двете основни партии в САЩ обсъждаха законодателство, което би дало на федералното правителство правомощия да блокира разпространението на определени ИИ модели, считани за опасни, според Reuters. Имаше и предвиждане компаниите да могат да оспорват подобни решения в федерален съд. Въпреки това, малко след това Конгресът взе предизборна ваканция и не последваха допълнителни действия по предложението.
През юли членове на Камарата на представителите предложиха проектозакон за аварийно изключване на ИИ (AI Kill Switch Act), който би дал на американските власти правомощия да искат от компаниите за изкуствен интелект да изключват модели, представляващи заплаха за живота на хората или икономиката.
„Антропик” се подготвя за първично публично предлагане на акции в САЩ. Очаква се това листване да бъде едно от най-забележителните на фондовия пазар през последните години, с потенциал да промени водещите борсови индекси, инвестиционните потоци и общите тенденции, влияещи върху движението на американските акции.
