Во време кога вештачката интелигенција се слави како врвна алатка за ефикасност и продуктивност, ретко се задржуваме на прашањето што таа значи за иднината на човекот, демократијата и слободата. На тркалезната маса „ВИ на првите линии: војна, авторитаризам и демократски иднини“, одржана во рамки на меѓународната конференција „Одбрана на демократијата: Хоризонти на слободата“, софтверскиот архитект и основач на Infoproject, Ванчо Орданоски, упати сериозно предупредување: вештачката интелигенција не е само алатка, туку потенцијален егзистенцијален ризик.
Неговиот говор отвора суштински прашања за концентрацијата на моќ, автоматизацијата на одлучувањето и тивкото исчезнување на човекот од центарот на општествените процеси.
Резиме од говорот на Ванчо Орданоски:
Јас, како информатички професионалец, денес живеам во средина каде што развојот на софтвер е секојдневие, и сосема е нормално да користиме алатки базирани на вештачка интелигенција. Тие се веќе општопознати, луѓето масовно почнаа да ги користат, а програмерите особено – затоа што ни заштедуваат време.
Меѓутоа, мојата теза денес не е за придобивките, туку за една потемна иднина поврзана со начинот на употреба на вештачката интелигенција и каде таа може да нè одведе како човештво. Моето тврдење е дека вештачката интелигенција, во својата суштина, носи егзистенцијален ризик за човештвото.
И покрај тоа што најчесто зборуваме за регулација – како да се користи вештачката интелигенција – мора да отвориме многу поголеми прашања: за опстанокот на човечката политика, на слободата, и воопшто за опстанокот на човекот како автономен, природен субјект. Ова не се нови размислувања; јас само правам ехо на нив. Но дури и „кумовите“ на вештачката интелигенција, луѓето кои ги поставија темелите на модерната AI, денес јавно зборуваат за големата опасност што таа ја носи.
Ќе се обидам да објаснам зошто и како може да дојде до тоа, и како вештачката интелигенција веќе денес се користи. Зашто нејзиното вградување во секоја пора на човечкиот живот носи скриени опасности.
Сè започна, симболично, уште во 1968 година со „2001: Одисеја во вселената“. Сцената во која астронаутот Дејв се обидува да го исклучи HAL, а компјутерот му вели: „Прости, Дејв, се плашам дека не можам да ти го дозволам тоа“, е повеќе од научна фантастика. Таа е предзнак, предупредување за можниот исход од неконтролираната употреба на вештачката интелигенција.
HAL е вештачката интелигенција во тој наратив. Артур Кларк тоа го замислил пред повеќе од половина век. Денес, вештачката интелигенција се развива и се воведува експлозивно.
Ако погледнеме историски, замената на коњите и камилите со железница и автомобили траела повеќе од еден век. Денес, за помалку од десет години, сме сведоци на речиси целосна технолошка трансформација. Го заменуваме човечкото расудување со машинска оптимизација. Намерно велам „оптимизација“, а не „размислување“.
Како што човекот исчезна од транспортот, лесно е да замислиме дека може тивко да исчезне и од процесот на одлучување – не затоа што некој ќе го уништи, туку затоа што ќе стане технички застарен во систем кој бара максимална ефикасност. Денес сè уште ја гледаме вештачката интелигенција како алат – продолжение на човечката рака. И навистина, ја користиме: од програмирање до избор на подарок за мајка ми за Нова година.
Но реалноста е дека таа станува основна инфраструктура врз која се носат воени, економски и политички одлуки. Само како илустрација: според податоци објавени во „Форбс“, околу 90% од растот на бруто-производот на САД во 2025 година е поврзан со изградба на дата-центри за вештачка интелигенција. Цените на мемориите растат неколкукратно поради концентрацијата на ресурси во тие центри.
Истите модели денес се користат за анализа на разузнавачки податоци, автоматска селекција на медиумски содржини (веќе постојат списанија со речиси целосно автоматско уредување), за проценка на кредитен ризик во банките, за управување со критична инфраструктура – електрани, железници – но и за моделирање на јавното мислење. Се проценува дека над 60% од корисниците на X (поранешен Twitter) се ботови управувани од вештачка интелигенција. Слично е и на другите социјални мрежи.
Во таква средина, демократските институции – парламентите, изборите, судството – стануваат зависни од технички системи кои не ги контролираат и не ги разбираат. Моќта се префрла од избраните тела кон инфраструктурата што ја дизајнира мал број држави и технолошки компании.
Алгоритмите што управуваат со беспилотни летала се базирани на истата логика како и оние што утре ќе одлучуваат кои текстови ќе ги читаме и кои ставови ќе бидат видливи. Истата техничка рационалност управува и со војната и со јавниот дискурс.
Вештачката интелигенција не прави морална разлика: дали управува со код, со медиумска платформа или со оружен систем. Во општеството, таа може да одлучува кое мислење е „опасно“, која група е „ризична“ и кој граѓанин заслужува зголемен надзор.
Класичната граница меѓу војска, полиција и цивилно општество се брише. Со масовен надзор, препознавање лица и предиктивна анализа, демократијата губи простор за вистинска граѓанска автономија.
Дополнително, модерната вештачка интелигенција не се програмира како класичен софтвер – таа се „одгледува“. Таа сама генерира модели и решенија, на начин што не е транспарентен за човекот. Одлуките не се засновани на човечки концепти и логика, туку на статистички структури што не можеме целосно да ги разбереме или контролираме.
Затоа вештачката интелигенција не е само технолошки алат, туку потенцијално нов ентитет. Во сценарио на суперхумана интелигенција – т.н. сингуларитет – човекот можеби ќе стане само еден од факторите, а не централниот субјект.
Денес сме сведоци на нова трка во вооружување – трка во изградба на дата-центри за вештачка интелигенција. Европа доцни, САД инвестираат масовно, а енергетските системи веќе се под притисок.
Среднорочно, единственото што можеме да го направиме е да ја ставиме вештачката интелигенција под силна човечка и демократска контрола. Затоа што таа не само што ја автоматизира моќта – таа ја демократизира манипулацијата. Денес, со минимални средства, секој може да влијае врз јавното мислење преку илјадници ботови.
И токму тука лежи ризикот: кога манипулацијата станува евтина, масовна и автоматизирана, демократијата станува кревка.
Погледнете го целото видео од тркалезната маса:
