Вероятно девизът на Марсел Пруст, френски писател от миналия век, е бил N’allez pas trop vite („Не бързайте толкова“). А предимството да забавим темпото е светът да стане по-интересен.
В романите си той пише за времето и за неговата относителност, която превръща улавянето на настоящето в невъзможна мисия. Животът на човека се изнизва неосъзнато и само благодарение на случайно събитие, казва Пруст, повлиян от философията на Анри Бергсон – човекът осъзнава миналото в неговата цялост и разбира, че само “изгубеното” време има стойност. Времето не се мисли и следователно не съществува нито като настояще, нито като бъдеще, а само като минало и неговото осъзнаване граничи с финала на човешкия живот. Само усещането за изтеклото време обединява фрагментарното ежедневие.
Извън философията и условната художествена реалност, нашата битова представа за времето до голяма степен разчита на причинно-следствените връзки между събитията. И тук веднага трябва да направим уговорката – само ако случващото се е плод на човешки действия. Топката за боулинг удря 7 от 10 кегли, а те на свой ред – останалите 3. И понеже знаем реда на събитията, сме наясно, че не 3-те кегли са съборили останалите 7.
Представете си обаче, че всичко протича прекалено бързо, едва ли не едновременно, в рамките на милисекунда, или нещо от този род. За едно примигване на окото и топката е прекосила пистата, кеглите са паднали и всичко е погълнато от машината… Знаете ли какво се е случило и в какъв ред?
Така горе-долу изглежда машинното време. Нещата протичат толкова бързо, че поне за нашето възприятие изглежда сякаш се застъпват. Боулингът е само илюстрация. Сложността на заобикалящите ни събития е много по-голяма: огромно количество исторически дaнни, стотици хиляди входни точки, автопилотни коли, свързани миникомпютри и системи за диагностика. Това е царството, в което се разпореждат сложните алгоритми, или изкуственият интелект, както често ги наричаме.
Няма две мнения, че са необходими ясни правила за разбиране, а по възможност – контрол и направляване на действията на много мощните машини, т.е. нужни са регулации.
Втората директива за финансовите пазари и инструменти (Markets in Financial Instruments Directive 2 или MiFID II), която влезе в сила в началото на януари 2018, е първата сериозна европейска регулация на AI, насочена към разбиране и контрол на „автономните машини“. (По-известната норма GDPR, която влиза в сила на 25 май, е продължение на тази линия.) Целта на директивата е да повиши прозрачността и да намали злоупотребите на финансовите пазари. MiFID II дава строги указания за точността, с която компаниите, опериращи на финансовите пазари, трябва да записват последователността на събитията (time stamping) при сделки, които се изпълняват от алгоритми – с точност до 100 микросекунди в рамките на Координираното универсално време (Coordinated Universal Time или UTC).
Какво е важното тук? Финансовият регулаторен орган на ЕС иска най-детайлно описание на бизнес, който в момента се извършва изцяло от машини. Тези машини „мислят“ не чрез езикови понятия, както хората, а чрез сложни операции и изпълняват хиляди или дори милиони действия в секунда, използвайки голям поток от данни („пазарни данни“ в хиляди инструменти и показатели). Човекът няма шансове да следва подобен поток и често не може да разбере какво е станало, дори и в ретроспекция.
Но още отсега е ясно, че в близко бъдеще целият цифров бизнес ще бъде управляван от машини, действащи със сходни скорости. Вече алгоритмите решават какви реклами да виждаме, колко да струват полетите и както стана ясно напоследък – определят съдържанието в различните социални медии и донякъде политическия процес. (Според статия на Guardian, 7 май 2017, The great British Brexit robbery: how our democracy was hijacked, аналитикът Робърт Мърсър стои зад Брекзит и избора на Доналд Тръмп.)
А част от световните компании не могат да обяснят, както и да проследят защо техните алгоритми, предшественици или братя на изкуствения интелект, вземат определени решения. Днес самолетните полети се командват от алгоритми, AI е горивото на самоуправляващите се автомобили, а маркетингът чрез лицево разпознаване далеч не е научна фантастика. Ако искаме обществото, в което живеем, да продължи да функционира, наложително е да има надеждни лостове за управление, одит, отчетност и сигурност на тези системи, които вървят напред с космическа скорост.
При положение че машините движат почти всеки аспект от нашия цифров живот и техните решения стават все по-независими и отвъд човешкия обсег, възниква потребност от повече прозрачност на вътрешните им процеси. MiFID II има за цел да защити финансовата система или поне да създаде начин за проследяване на случилото се, ако нещата се объркат. Такъв тип разпоредби, с изисквания за строга отчетност и възможност за реконструкция на много, много бързи събития ще са необходими скоро и в други бизнес сектори.
Регулациите и евентуалните технически насоки обаче не решават безбройните етични последици, които ще възникнат от широкото използване на свръхчовешки, алгоритмични решения. Но те са необходимата първа стъпка. Без достатъчно подробна карта на „мисловните процеси“ на машините ще си отгледаме изкуствени интелекти „черни кутии“, с непрозрачни действия. Тогава при необходимост няма да можем да проследим причините. „И най-деспотичните политически режими рано или късно са се разпадали заради способността на човека да съчувства на другите човешки същества„, каза един от българските учени, запознати с темата – проф. Иван Койчев от Факултета по математика и информатика (ФМИ) към Софийския университет. Той дава пример с разпада на тоталитаризма и предупреждава, че за разлика от човека машината не е способна на съчувствие.
Изкуственият интелект, припомня математикът, е факт от повече от половин век: „Невронните мрежи са ново понятие, но технологията зад тях е известна от 50-те и 60-те години на миналия век.“ По думите му разработките спират и след това през десетилетие за кратко се възобновяват – съответно 70-те, 80-те и 90-те години. Горе-долу към времето, когато започват научните експерименти с AI, американският писател фантаст от руско-еврейски произход Айзък Азимов формулира (в разказа „Хоро“, 1942) трите закона на роботиката, които всеки любител на жанра познава добре. Те гласят:
1. Роботът не може да причини вреда на човек или с бездействието си да допусне на човека да бъде причинена вреда.
2. Роботът е длъжен да се подчинява на човека, ако това не противоречи на Първия закон.
3. Роботът е длъжен да се грижи за собствената си безопасност, ако това не противоречи на Първия и Втория закон.
И ако във фантастиката нещата са назовани преди повече от половин век, в нашата действителност дебатът за регулацията на изкуствения интелект сега започва. Вече е ясно, че е необходимо много прецизно наблюдение на случващото се в „машинното време“ и че без това ставаме слепи актьори в реалност, която не можем да разберем, потвърдим и за която не можем да носим отговорност. Вероятно втората тема за сериозен, екзистенциален дебат е свързана с това, в което сме убедени, и доколко свободна е свободната ни воля. Свободно избираме един или друг политически лидер и сме убедени, че изборът ни е информиран. Но пропускаме, че социалните медии филтрират новините и прецизно таргетират посланията към нас съобразно профилите или представата, която са си изградили за предпочитанията и нежеланията ни.
Само контролът над цифровото време може да ни даде защита – както срещу непредвидени последици, така и срещу разрушаването на киберпространството.
Иначе ще видим само резултата от играта, но не и отделните кадри и няма да разберем как се е стигнало до него.
* „По следите на изгубеното време“ е роман в 7 тома на Марсел Пруст.
