Џабир Дерала
Телото умира. Не од болест. Не од старост. Вил Кастер е застрелан од припадник на R.I.F.T. – радикална антитехнолошка група што верува дека неговата работа на вештачката интелигенција го води човештвото во опасен правец. Куршумот е загаден со полониум. Атентатот не го убива веднаш. Му остава нешто уште посурово. Време да знае дека умира.
Лекарите му даваат околу пет недели. Оттука, времето повеќе не се мери со денови. Се мери со она што сè уште може да се спаси.
Телото слабее. Лицето се менува. Движењата стануваат потешки. Смртта е краток рок што неминовно истекува.
Но околу Вил нема само тага. Има трескавично темпо на работа. Евелин одбива да прифати дека неговиот ум мора да исчезне заедно со телото. Макс се сомнева дека она што ќе биде пренесено во машината навистина ќе биде Вил, а не само негова совршена дигитална копија. Но времето за филозофски расправи исчезнува заедно со неговото тело.
Кабли. Монитори. Сервери. Електроди. Скенирање. Податоци. Сè што може да се измери мора да се измери пред да биде предоцна. Неговиот мозок се мапира додека животот се повлекува од телото. Се бележат мозочните обрасци и реакциите на различни стимули. Се снима гласот. Зборови. Манири. Спомени. Начинот на кој реагира, поврзува, препознава, мисли.
Обидот е речиси апсурдно амбициозен. Да се претвори човек во информација – податок – пред да престане да постои. Она што биолошкото тело повеќе не може да го задржи, машината треба да го преземе. Личноста да се аплоадира (upload) во синтетички екосистем.
И тука приказната станува вознемирувачка. Затоа што никој во просторијата не знае што точно пренесуваат. Ум? Свест? Спомени? Модел на однесување? Или само доволно совршена реконструкција за живите да поверуваат дека човекот сè уште е таму?
Телото умира. Машината молчи. И за миг изгледа дека сè било залудно. А потоа, знак!
На екранот се појавува активност. Системот почнува да реагира. Доаѓаат зборови. Гласот е негов. Потоа и ликот. Невозможната идеја одеднаш станува реалност. Тагата се меша со неверување, а неверувањето со возбуда. Човекот што штотуку умрел повторно зборува со оние што ги оставил зад себе.
Само што сега не е таму каде што бил. Тој е во машината.
И кога таа машина ќе биде поврзана со интернет, она што започнало како обид да се зачува еден човечки ум почнува да се шири со брзина и во размери што никој околу него не може целосно да ги следи.
Во Transcendence (2014), смртта не доаѓа како крај. Доаѓа како трансфер.
Во филмот, стравот расте заедно со способноста. Во реалниот свет, денес гледаме нешто многу помалку спектакуларно, но можеби и поважно. Колку повеќе дознаваме за ограничувањата, грешките и непредвиденото однесување на вештачката интелигенција, толку системите може да изгледаат поопасни.
Восхит и страв – од техно рубриките до највисоката светска политика
Живееме во време кога развојот на технологиите и вештачката интелигенција се следи истовремено со восхит и страв. Восхитот оди дотаму што се предвидуваат и целосно нереални или многу далечни настани, но истовремено и со параноја и панични предвидувања за апокалипса и истребување на човештвото.
Не толку одамна, вештачката интелигенција беше сместена во технолошката рубрика или специјализираните tech & AI медиуми. Денес повеќе не ја собира таму. Таа е во економијата, безбедноста, образованието, војната, културата и медиумите… и во највисоката светска политика, од Брисел и Вашингтон до Обединетите нации.
Во таа мешавина од восхит и страв лесно се губи мерката. Секоја нова способност може да биде претставена како најава на чудо, а секој инцидент како доказ дека сме чекор поблиску до катастрофа. Меѓу тие две крајности останува многу потешката задача – да разбереме што навистина може вештачката интелигенција, што сè уште не може, каде се реалните ризици и каде започнува нашата склоност кон проекција, митологизација и страв.
А тука се појавува уште еден проблем. Најголемиот дел од она што денес го знаеме за способностите, ограничувањата и слабостите на најнапредните системи не доаѓа од некаква целосно независна опсерваторија надвор од индустријата. Доаѓа токму од лабораториите што ги создаваат.
Колку повеќе се отвора вратата…
За вештачката интелигенција и за она што таа навистина може, во голема мера дознаваме од самите компании што ја развиваат. Од OpenAI, Anthropic, Google DeepMind и другите лаборатории доаѓаат извештаите, безбедносните проценки, предупредувањата, а понекогаш и признанијата дека нешто тргнало поинаку од планираното.
До неодамна, голем дел од она што се случуваше зад ѕидовите на тие лаборатории остануваше токму таму. Денес вратите се отвораат почесто. Излегуваат извештаи. Се објавуваат слабости. Стануваат видливи неочекувани постапки на моделите, погрешни проценки, безбедносни пропусти, понекогаш и инциденти што никој не ги планирал.
Со секоја отворена врата гледаме малку повеќе. И со секое ново нешто што станува видливо, се менува и нашето чувство за тоа колку добро го разбираме и контролираме она што се случува. Она што би требало да нè направи посигурни – фактот дека знаеме повеќе – понекогаш го произведува токму спротивното чувство.
Одеднаш, светот зад вратата изгледа потемен отколку што сме замислувале.
Транспарентноста не смее да биде казнета, но не смее да стане алиби
Колку повеќе знаеме, толку повеќе гледаме што може да тргне наопаку. А колку повеќе гледаме што може да тргне наопаку, толку полесно е да поверуваме дека целиот систем е поопасен отколку што сме мислеле.
Но можеби опасноста не станала поголема. Можеби само светлото станало посилно и сега гледаме нешта што претходно биле обвиени со велот на тајноста. Ете го парадоксот.
Компанијата што ги отвора сопствените проблеми пред јавноста може да изгледа понебезбедна од онаа што молчи. Онаа што објавува повеќе инциденти може да изгледа како да има повеќе инциденти. Онаа што признава слабости може да изгледа послаба.
А затворената врата, едноставно затоа што е затворена, може да изгледа мирно. Токму затоа транспарентноста не смее да биде казнета. Но не смее да стане ниту алиби.
Фактот дека некоја компанија ги објавува своите слабости не ја ослободува од одговорност за нив. Напротив. Транспарентноста има смисла само ако отвора простор за проверка, критика, независен надзор и одговорност. Во спротивно, таа лесно може да се претвори во уште една форма на контролирана слика. Ова, всушност, одамна го знаеме од други области. Особено од политиката.
Страв од апокалипса: Човекот се огледува во машината што ја создава
Отворените системи често изгледаат понеуредно токму затоа што нивните проблеми се видливи. Затворените системи можат долго да изгледаат стабилно, сигурно, дури и беспрекорно, сè додека еден ден не дознаеме што било скриено зад затворената врата.
Истата логика почнува да важи и за вештачката интелигенција.
Колку повеќе гледаме, толку повеќе причини наоѓаме за загриженост. Колку повеќе се отвораат лабораториите, извештаите, логовите и инцидентите, толку потемна може да изгледа сликата. Но проблемот не е само во тоа колку гледаме. Туку и во тоа што гледаме кога ќе погледнеме во машината.
Човекот гледа машина која зборува. Машина која пишува. Машина која планира, пребарува, наоѓа заобиколници, решава проблеми и понекогаш прави нешто што никој не предвидел. Тогаш… Човекот почнува да ја гледа машината како да се гледа себеси. Ѝ припишува намера. Волја. Страв. Лукавство. Желба за преживување. Потреба за моќ. На крајот, и омраза.
Не затоа што знаеме дека машината ги има тие особини, туку затоа што тоа се категориите со кои човекот го разбира светот. Во машината се огледуваме себеси. А човекот има претстава, макар и магловита, за што сѐ е способен. Можеби токму затоа толку лесно ја замислува апокалипсата.
Што може да доведе до апокалипса?
Но ако некогаш дојде до катастрофа поврзана со вештачката интелигенција, нема никаква потреба машината да стане злобна. Не мора да почувствува омраза кон човештвото. Не мора да развие нагон за власт. Не мора дури ни да биде свесна.
Доволно е ние да ѝ дадеме погрешна цел. Премногу овластувања. Премалку контрола. Лошо обезбедена средина. И доволно голема способност да најде решение што ние не сме го предвиделе.
Токму затоа е погрешно инцидентите со ВИ-агентите од летото и есента 2026 година да се отфрлат како лабораториски куриозитети. Лабораториите отсекогаш биле местата каде што утрешниот свет прво се појавува во несигурна, несовршена и понекогаш опасна форма.
Истражувачкиот модел од денес може да биде сенка на комерцијалниот систем од утре. Но од тоа не следува дека пред нас веќе се отвора портата кон машинската апокалипса.
Тоа е другата крајност на истата грешка. Едните гледаат чудна постапка на ВИ и се смеат. „Тоа е само експеримент“, ќе речат. Другите гледаат ист настан и веќе го слушаат маршот на машините. И едните и другите го пропуштаат она што навистина е важно.
Проблемот е многу попрозаичен. И токму затоа е посериозен.
Другата крајност на истата грешка
Напредните системи стануваат способни да работат подолго, да извршуваат повеќе последователни задачи, да користат алатки, да пишуваат код, да пребаруваат мрежи, да комбинираат информации и да испробуваат различни патишта до целта.
Не треба да замислуваме машина што „сака“ да ја пробие вратата. Доволно е да замислиме систем кој добил задача, наишол на затворена врата и пресметал дека постои прозорец. Тоа е точката кога нештата може да добијат загрижувачки димензии. Затоа што способноста сама по себе нема морал. Таа е само способност.
Може да открие лек. Може да најде слабост во системот. Може да оптимизира транспортна мрежа. Но може да открие и пат до информација до која не сме сакале да стигне.
Истата интелигенција што ја препознаваме како брилијантна кога решава невозможен проблем, може да стане опасна кога проблемот што го решава е, всушност, ограничувањето што сме го поставиле пред неа.
Тука веќе не помагаат метафорите за роботи што маршираат низ запалени градови. Потребни се многу поздодевни чекори.
Дозволи. Изолација. Логови. Надзор. Независни проверки. Безбедносни слоеви. Јасни процедури. Луѓе кои имаат овластување да кажат „стоп“. Но и системи кои ќе запрат нешто пред човекот воопшто да сфати дека треба да интервенира.
Технолошката иднина нема да се решава во една драматична битка меѓу човекот и машината. Веројатно ќе се решава во илјадници вакви мали, речиси невидливи одлуки – кој систем до што има пристап, кој го надгледува, што се снима, кој може да интервенира, што мора да биде објавено и што никогаш не смее да остане скриено.
Тоа е многу помалку спектакуларно од научната фантастика. Се работи за одговорност. И таа е единствено во рацете на човекот.
Како со лакот и стрелата…
Вештачката интелигенција не мора да „избега“ за да стане опасна. Не мора да се разбуди. Не мора да нè замрази. Доволно е да стане многу способна во свет што сè уште не научил како да управува со таква способност. И можеби тоа е најнепријатната мисла од сите.
Во Transcendence, на крајот веќе не е сосема јасно што останало од Вил Кастер и што станало нешто друго.
Човекот е исчезнат. Системот е уништен. Но трагата останува.
Некогашниот обид да се спаси еден човечки ум завршува со прашање што филмот намерно не го затвора. Дали човекот ја надминал машината? Дали машината го надминала човекот? Или и двете категории веќе станале недоволни за она што било создадено?
Научната фантастика не ни кажува што ќе се случи, иако често се доживува како предвидување на технолошкиот напредок. Нејзината најголема вредност, барем според мене, е во тоа што нè тера да се прашаме што ќе направиме ако границите почнат да се поместуваат побрзо отколку што сме подготвени да ги разбереме.
Во реалниот свет, сè уште сме далеку од Вил Кастер. Но веќе сме доволно блиску до прашањето што ќе направиме ние – човештвото, што и да значи тоа денес – со интелигенцијата што сме ја создале.
Не што ќе направи машината. Туку што ќе направи човекот со машината.
Како со атомската бомба. Многу порано, со барутот. А уште порано – со лакот и стрелата.
Или, поблиску до темата, прашањето е дали ќе научиме да управуваме со сè поспособните системи пред нивната сложеност да стане поголема од нашата способност да ги следиме?
Ако не успееме, апокалипсата – ако воопшто некогаш дојде до тоа – нема да биде приказна за машината што станала премногу човечка.
Ќе биде приказна за човекот што останал премногу човечки.
(продолжува)
Сите права се задржани | ЦИВИЛ МЕДИА
ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА И СИНГУЛАРНОСТА 1/6:
Од „Нежната сингуларност“ до „веќе сме во неа“: Алтман, една година подоцна
ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА И СИНГУЛАРНОСТА 2/6:
Од Матрикс до агентската ВИ: Кога софтверот престанува само да одговара и почнува да дејствува
ВЕШТАЧКАТА ИНТЕЛИГЕНЦИЈА И СИНГУЛАРНОСТА 3/6:
Дел од процесите и дилемите анализирани во оваа серија беа разгледани и во книгата „Човекот, роботот и дигиталниот бог“, објавена на почетокот на 2024 година од Frontline Press, во авторство на Џабир Дерала и Валентин Нешовски. Книгата се занимава со забрзаниот развој на вештачката интелигенција, односот меѓу човекот и ВИ, можноста за појава на сè поавтономни системи, како и со општествените, етичките и цивилизациските последици од тој развој. Дел од процесите што тогаш беа разгледувани како блиска иднина, денес веќе стануваат дел од реалноста.
Анализата е развиена од авторот во истражувачка, аналитичка и редакциска соработка со ChatGPT од OpenAI. Авторот ја постави концепцијата, ги формулира тезите, прашањата и уредувачката насока, ги провери и финално ги одобри наодите, одговорите, толкувањата и заклучоците произлезени од дијалогот и ја презема целосната одговорност за објавениот текст.
Ако го цените тоа што го прави ЦИВИЛ, поддржете ја нашата работа.
Вашата поддршка ни овозможува да известуваме, да ја одржуваме платформата за демократски дијалог, да објавуваме едукативни содржини, да се бориме против лагите и да ги браниме човековите права и слободата.
Поддржете го ЦИВИЛ. Донирајте ДЕНЕСКА.
