Во библиското предание, Вавилонската кула е многу повеќе од обична приказна за човечката амбиција. Таа е сурово предупредување за моментот во кој техничката моќ се одвојува од мерката, смислата и одговорноста. Луѓето во Вавилон располагале со заеднички јазик и со способност за совршена координација, но токму таа способност ја претвориле во доказ дека сè што можат да направат – имаат право и да го направат.
Казната што следувала не била само физичкото рушење на кулата. Вистинската казна бил распадот на разбирањето. Кога зборовите ќе престанат да создаваат заедничко значење, заедничкото дело станува невозможно. Луѓето продолжуваат да зборуваат, но повеќе не се слушаат. Поседуваат јазик, но ја губат смислата. Остануваат технички поврзани, но престануваат да бидат заедница.
Токму тоа, денес, ѝ се случува на демократијата. Никогаш во историјата не сме располагале со помоќни средства за комуникација. Никогаш не сме произведувале повеќе текстови, слики, видеа и политички пораки. И сепак, никогаш не било потешко да создадеме заедничка основа врз која ќе можеме да се согласиме дури и за тоа околу што не се согласуваме. Новата Вавилонска кула веќе не се гради од тули. Таа се гради од содржини.
Демократијата премногу често, и премногу лесно, ја сведуваме на избори и пребројување гласови. Но изборите се само периодичен механизам. Суштината на демократијата претпоставува нешто многу посуптилно: јавен простор во кој граѓаните можат да ги споредуваат тврдењата и слободно да поставуваат прашања на оние кои владеат во нивно име. Демократијата не почнува со одговорот, туку со правото на прашање. Прашањето е тоа што го изложува авторитетот на проверка, ја прекинува политичката самодоволност и го принудува носителот на моќ да објасни зошто постапил на одреден начин. Токму затоа, прашањето останува една од најопасните човекови слободи. Авторитарната моќ не се плаши од спротивниот одговор; таа се плаши од прашањето што открива дека нејзиниот одговор не е единствен.
Но, во дигиталната ера, прашањето постепено се потиснува. Пребарувачите, социјалните платформи и сега генеративната вештачка интелигенција, создаваат средина во која одговорот пристигнува пред човекот воопшто да има време прецизно да го формулира прашањето. Така доаѓаме до најголемиот парадокс на современото општество: располагаме со речиси сите одговори, а сè помалку знаеме што воопшто треба да прашаме.
Најдлабоката промена што ја носи вештачката интелигенција не е автоматизацијата на пишувањето, туку демократизацијата на манипулацијата. Природниот јазик стана интерфејс. Доволно е да ја опишете целта, тонот и посакуваниот ефект, за една политичка порака во неколку секунди да се мултиплицира во стотици навидум различни статуси, колумни и „граѓански“ реакции. Истото пропагандно јадро може да се појави како патриотски повик, загрижен став или стручна анализа. На тој начин, технологијата овозможува индустриско производство на привидна разновидност, која го прикрива централизираното потекло на пораката. Граѓанинот не гледа една наредба што се повторува, туку стотици навидум независни луѓе кои го тврдат истото. Токму тука се раѓа синтетичкиот јавен простор.
Во тој простор, масовноста на повторувањето вештачки се претставува како доказ за вистинитоста. Кога не можеме да утврдиме дали зад илјада реакции стојат илјада вистински граѓани или само десет оператори и една генеративна платформа, демократијата ја губи способноста да ја препознае сопствената јавност.
Овој организиран дигитален шум не секогаш има за цел да го убеди граѓанинот дека власта е во право. Многу почесто, и многу поефикасно, целта е да го убеди дека никој не е во право. Ако јавниот простор континуирано се преплавува со противречни тврдења, полувистини и генериран гнев, граѓанинот ја губи способноста да воспостави хиерархија на фактите. Тој се повлекува од расправата.
Тоа е онаа сурова политичка механика која може да се дефинира како политика на множење со нула. Нејзината цел не е да докаже дека вашите аргументи вредат десет, а аргументите на противникот пет. Целта е противникот да се помножи со нула – да се претстави како предавник или платеник чиј легитимитет е поништен. Но, оваа формула има фатална нус-последица: кога сите страни континуирано се поништуваат меѓусебно, на крајот со нула се множи целиот јавен простор. Општеството не станува покритичко, туку политички обезоружано, подготвено да поверува само во онаа порака што најдобро го храни неговиот сопствен страв или гнев.
Ваквата манипулација е возможна бидејќи политичката порака денес повеќе не му се обраќа на граѓанинот како жив и свесен член на заедницата. Таа директно гаѓа во она што претходно го анализиравме како архитектура на дигиталниот Јас. Пребарувањата, навиките, кликовите и времето поминато на одредена содржина создаваат наш податочен двојник. Системот точно знае кое копче треба да го притисне за да нè мобилизира или обесхрабри. Така, двајца граѓани формално живеат во иста држава, но преку нивните дигитални архитектури тие добиваат две сосема различни верзии на реалноста. Во таква средина, јавноста престанува да биде место за дебата и се претвора во збир од приватизирани, херметички затворени убедувачки средини. Тоа е современиот Вавилон: не мораме да зборуваме различни јазици, доволно е истите зборови да ги примаме во различни, вештачки конструирани контексти.
Опасноста се продлабочува кога генерираниот текст ќе го преземе изгледот на новинарството, без да ги преземе неговите етички обврски. Брзината не е исто што и навременоста, а граматичката уредност не е доказ за вистинитост. Вештачката интелигенција не е неутрален судија. Таа може да ја прикрие својата пристрасност зад техничкиот авторитет, убедливо организирајќи ја грешката.
И тука доаѓаме до финалната замка: пропагандата на крајот го заробува и оној што ја нарачал. Ако еден политичар постојано е опкружен со генерирани пофалби и режирани анкети, тој почнува да верува дека произведената поддршка е реална. Системот создаден за да ги манипулира граѓаните, почнува да ја манипулира власта. Пропагандата престанува да биде инструмент и станува затвор.
Демократијата не може и не смее да се брани со уште поголема бучава. Ако на илјада генерирани пораки возвратиме со нови илјада, ние не го обновуваме јавниот простор, туку само ја зголемуваме депонијата на неразбирањето. Нам ни е потребна демократска меморија која нема да биде препуштена на алгоритмите. Потребно е препознатливо авторство, јасна одговорност и право на човечко оспорување. Граѓанинот мора да знае кој ја формулирал намерата, кој го определил исходот и кој ја презема одговорноста за пораката што му се пласира. Текст без препознатлив автор секогаш станува агресија без одговорност.
Развојот на вештачката интелигенција не може да се запре, но технолошката неизбежност не значи и демократска капитулација. Технологијата не е судбина, таа е поле на борба. Со вештачката интелигенција можеме да преведуваме веднаш и да произведуваме текстови со невидена брзина, но ако ја изгубиме способноста да поставуваме критички прашања, техничката поврзаност само ќе го забрза нашиот колективен молк.
Вистинскиот избор денес не е меѓу луѓето и машините, туку меѓу непрозирната автоматизација која ја концентрира моќта и проверливата употреба на технологијата која му помага на граѓанинот. Кулата нема да ја спасиме ако ја изградиме уште повисока. Ќе ја спасиме само ако дигиталната архитектура повторно ја подредиме на единствената мерка што навистина вреди: човечкото достоинство, плурализмот и одговорноста. Технологијата нема да го укине Вавилон. Но, ако не ѝ дозволиме да го замени јавниот простор со негова синтетичка копија, можеби конечно ќе ни помогне повторно да се слушнеме.
Проф. д-р Александар Иванов е редовен професор на Факултетот за безбедност – Скопјe, специјализиран за безбедност на животната средина, меѓународни односи и трансформација на безбедносната наука во оперативна реалност.