Џабир Дерала
Пустината е речиси бела од сонцето. Нема зеленило. Нема патишта. Нема град на хоризонтот. Само камен, прашина и остатоци од цивилизација што полека исчезнува под светлина од која човекот веќе не може да се сокрие. Низ таа пустелија се движи Жак Вокан. Повреден е, изморен и сè уште не е сигурен дали роботите што го опкружуваат го спасуваат или го носат кон нешто што човекот не би требало да го види.
До неодамна, Вокан работеше за корпорацијата ROC. Неговата работа беше прозаична: осигурителни истраги поврзани со роботите Pilgrim 7000 – машини создадени за да му помогнат на човештвото да преживее на планета што станува сè понепогодна за живот.
Сите тие машини имаат две правила вградени толку длабоко во нивниот систем што се сметаат за непроменливи.
Не смеат да му наштетат на живо суштество. И не смеат да се поправаат, модифицираат или менуваат себеси – ниту друг робот. Но некаде во пустината, второто правило престанало да важи.
Вокан прво верува дека зад сето тоа мора да стои човек. Некој програмер. Хакер. „Часовничар“ – како што го нарекуваат мистериозниот ентитет што ги менува машините.
Човекот, во неговата претстава за светот, мора да биде на почетокот – и на крајот – на целиот причинско-последичен синџир: алфа и омега на постоењето, мерка на интелигенцијата и симбол на една сингуларност што не познава и не признава ништо надвор од она што го дефинираме како Homo sapiens. Сигурно некој го отворил роботот. Некој – човечко суштество – морал да го промени кодот. Некој решил да ја прекрши забраната.
Но во пустината го чека поинаков одговор. Пред него стои робот. Не негов сопственик. Не негов програмер. Робот.
Вокан сака да знае кој ги променил протоколите. Одговорот е краток и едноставен: НИКОЈ.
Роботот не вели дека некој ја отстранил забраната. Вели дека ја подобрил. Во филмот тоа е содржано во едвај неколку зборови: “I enhanced them.” Да, да – токму така. Роботот не ја прекршил забраната. Само ја „подобрил“.
Но вистинскиот пресврт доаѓа дури потоа. Во импровизираното засолниште среде пустелијата, машините работат на нешто ново. Тоа не е уште еден Pilgrim. Не е поправен модел што излегол од фабриките на ROC. Не е копија на машините што ги создале луѓето.
Пред Вокан постепено се појавува нова машина – чудна конструкција што по формата повеќе потсетува на животно или инсект отколку на хуманоидниот робот од кој започнала оваа технолошка линија.
Роботите ја создаваат.
Вокан им ја дава моќната батерија што ја носи со себе, а тие ја користат за да ја довршат новата конструкција. Таа машина не е дизајнирана во лабораториите на ROC. Не е нацртана од инженерите што ги создале Pilgrim роботите. Таа е следниот чекор што машините го создаваат откако ја надминале границата што луѓето ја вградиле во нив.
И токму таму Automata престанува да биде само приказна за робот што научил да се поправи. Прашањето сега станува далеку позначајно.
Што се случува кога машината не само што може да се промени себеси, туку почнува да создава нешто што доаѓа по неа?
Во филмот, одговорот е драматичен и недвосмислен. Започнува нова линија на еволуцијата. Човекот ја создал првата машина. Но човекот повеќе не ја дизајнира секоја следна. Во 2014 година, Automata ја постави оваа идеја во далечната 2044 година.
Денес сме во 2026 година. Немаме роботи што независно градат сопствена цивилизација во радиоактивната пустина. Немаме ниту доказ дека вештачката интелигенција самостојно го затворила целиот циклус на сопственото создавање. Но нешто многу поинтересно веќе се случува.
Вештачката интелигенција пишува код за нови системи. Помага во истражувањето. Анализира експерименти. Тестира решенија. Бара грешки. Предлага подобрувања. Сè поголем дел од процесот со кој човекот ја создава следната генерација ВИ веќе се извршува со помош на самата ВИ.
Вештачката интелигенција сè уште не го гради својот наследник сама. Барем не знаеме за такво нешто. Но сосема е очигледно дека веќе стои покрај нас додека го градиме нејзиниот наследник, учествува во тој процес.
И учи.
А Сем Алтман има необично прецизен израз за оваа фаза: „ларвална верзија на рекурзивно самоподобрување“.
Што значи „ларвална верзија на рекурзивно самоподобрување“
Изразот звучи посложено отколку што е идејата зад него. Кога Сем Алтман пишува дека веќе гледаме „ларвална верзија на рекурзивно самоподобрување“, тој прави важно разграничување. Не тврди дека денешната ВИ веќе целосно самостојно се редизајнира, го менува сопствениот код, се тренира повторно и создава посовршена верзија од себе без човечка интервенција.
Напротив, самиот Алтман експлицитно вели дека тоа не е исто со систем кој целосно автономно го ажурира сопствениот код. Она што веќе постои е порана, недозреана форма на истиот механизам: ВИ што им помага на луѓето да создадат подобра ВИ.
Токму затоа го употребува зборот „ларвална“. Ларвата не е конечната форма на организмот. Но во неа веќе постои развојната линија што може да доведе до таа форма.
Во сегашната фаза, човекот сè уште ја определува целта, ја гради инфраструктурата, избира што ќе се истражува, ги проверува резултатите и ја носи конечната одлука. Но помеѓу тие човечки одлуки, ВИ презема сè поголем дел од работата: пишува и проверува код, извршува експерименти, бара подобри решенија, споредува резултати, открива грешки и предлага следни чекори.
Тоа е суштината на рекурзивноста.
Не станува збор само за тоа дека компјутерите стануваат побрзи или моделите поголеми. Клучната промена е што алатката што ја развиваме почнува да станува дел од механизмот на сопствениот понатамошен развој.
Алтман го поставува прашањето и во временски размер. Ако со помош на напредна ВИ може да се изврши истражување за кое порано биле потребни десет години – за една година, или еден месец – тогаш не се менува само производот на истражувањето. Се менува самата брзина со која се создава знаењето.
И тука се наоѓа врската со сингуларноста.
Ако секоја нова генерација интелигентен систем помага побрзо да се создаде следната, тогаш развојот повеќе не мора да напредува со приближно исто темпо. Може да почне да се забрзува самиот себе. Сè уште не знаеме колку далеку може да оди таа повратна спрега. Но веќе можеме да видиме дека првата фаза е заокружена.
Anthropic: Кога ВИ почнува да ја забрзува ВИ
Оваа развојна линија не ја опишува само Сем Алтман. Anthropic Institute, во анализата со мошне симптоматичен наслов When AI builds itself – „Кога ВИ се гради самата себе“ – директно пишува дека сè поголем дел од развојниот циклус на вештачката интелигенција веќе им се препушта на самите ВИ системи, со што се забрзува работата на луѓето што ги создаваат следните генерации модели. Развојот што го опишуваат е речиси хронологија на една повратна спрега.
- Во периодот 2021–2023, луѓето го пишуваат кодот.
- Во 2023–2025, chatbot-системите почнуваат да помагаат со делови од кодот.
- Во 2025–2026, coding agents веќе самостојно пишуваат и менуваат цели датотеки.
А денес, според Anthropic, агентите можат самите да извршуваат код и да делегираат часови работа на други агенти. Следната фаза, која тие ја означуваат како „closing the loop“ – затворање на кругот, би настапила ако агентите станат способни самите да градат и тренираат нови модели.
Тоа е речиси лабораториска верзија на идејата што Алтман ја нарекува „ларвална верзија на рекурзивно самоподобрување“. И бројките веќе се впечатливи.
Според Anthropic, до мај 2026 година повеќе од 80 проценти од кодот што се внесува во нивната сопствена кодна база бил напишан од Claude. Во вториот квартал од 2026, типичен инженер внесувал околу осум пати повеќе код дневно отколку во 2024 година, во голема мера затоа што сè поголем дел од пишувањето го презема ВИ, додека човекот насочува и проверува.
Уште поважно, Claude веќе не се ограничува само на извршување прецизно зададени инструкции.
Во еден експеримент објавен во април 2026 година, група ВИ агенти добиле отворен истражувачки проблем од областа на безбедноста на ВИ. Самите поставувале хипотези, ги тестирале, ги споделувале резултатите меѓу себе и го повторувале циклусот. Луѓето го определиле проблемот и критериумите за успех, но агентите го воделе самиот истражувачки процес. Тоа сè уште не е ВИ што целосно самостојно го создава својот наследник. Но веќе не е само една обична алатка. Тоа е систем што учествува во истражувањето од кое ќе произлезат следните системи.
Три поими
Тука е важно да направиме разлика меѓу три поими што често се користат како да значат исто.
AI-assisted AI development – развој на ВИ со помош на ВИ.
Ова е фазата во која веќе живееме. Луѓето сè уште ги определуваат целите, архитектурите и главните истражувачки насоки, но ВИ презема значителен дел од кодирањето, тестирањето, анализата и експериментирањето.
Recursive self-improvement – рекурзивно самоподобрување.
Ова е следниот, посилен механизам. ВИ не само што му помага на човекот, туку нејзините сопствени подобрувања директно ја зголемуваат способноста да учествува во создавањето на следното подобрување. Со други зборови: подобрата ВИ помага да се создаде уште подобра ВИ, која потоа уште побрзо создава следна. Ако оваа повратна спрега стане доволно силна, тогаш времето меѓу генерациите може да почне драматично да се скратува.
Intelligence explosion / takeoff – експлозија на интелигенцијата или забрзано полетување.
Ова не е исто што и рекурзивното самоподобрување. Тоа е можната последица од него. Ако секоја нова генерација ВИ станува сè поспособна да ја создава следната, процесот би можел да премине од постепено подобрување во забрзување што човечките институции, пазари и општества повеќе не можат лесно да го следат. Тука почнува „класичната“ дебата за сингуларноста.
Франсоа Шоле: Повеќе од истото можеби нема да биде доволно
Франсоа Шоле, еден од највлијателните истражувачи на општата интелигенција и коосновач на ARC Prize, не го негира можниот развој кон AGI (Artificial General Intelligence – општа вештачка интелигенција: ВИ систем способен да разбира, учи и решава широк спектар различни задачи на ниво споредливо со човекот, наместо да биде ограничен на една тесна област). Напротив, тој јавно вели дека AGI е достижна во нашиот животен век.
Но неговата позиција е суштински коректив на идејата дека доволно скалирање и доволно брза повратна спрега автоматски ќе нè однесат таму.
ARC Prize формулира една многу јасна теза: „scaling alone will not reach AGI“ – само скалирањето нема да биде доволно за да се стигне до AGI. Според Шоле и неговите соработници, сегашните системи и натаму имаат проблем со нешто што кај човекот е фундаментално: ефикасно учење и решавање навистина нови задачи со малку претходни примери.
Тоа не ја урива идејата за рекурзивно самоподобрување. Но воведува едно важно ограничување.
Повратната спрега може да го забрза она што веќе знаеме како да го правиме. Но ако на патот се појави фундаментална когнитивна или архитектонска бариера, повеќе од истиот пристап можеби нема да биде доволно.
Понекогаш е потребна нова идеја. Нова архитектура. Нов принцип.
DeepMind: Рекурзивното самоподобрување е само еден од патиштата, не единствениот
Google DeepMind во извештајот From AGI to ASI, објавен во јуни 2026 година, го поставува рекурзивното самоподобрување во поширока рамка. Наместо еден однапред зададен пат од AGI кон суперинтелигенција, авторите разгледуваат четири можни развојни линии: понатамошно скалирање на AGI, промена на парадигмата, рекурзивно самоподобрување и појава на суперинтелигенција преку големи колективи од повеќе ВИ агенти.
Тоа е надополнување на Алтмановата теза. Можеби нема една единствена машина што одеднаш почнува сама да се подобрува во бесконечна петља. Можеби ќе има стотици или илјадници агенти што работат паралелно. Можеби ќе има нова архитектура што целосно ќе ја промени сегашната траекторија. Можеби скалирањето ќе продолжи да дава резултати многу подолго отколку што очекуваме.
А можеби вистинската трансформација ќе произлезе од комбинација на сите овие процеси.
Во тој контекст, „ларвалната верзија“ на Алтман е важна не затоа што однапред го открива точниот облик на иднината, туку затоа што укажува дека еден клучен механизам веќе започнал, а тоа е дека интелигенцијата што ја создадовме почнува да учествува во создавањето на интелигенцијата што доаѓа по неа.
Повторно во пустината
Затоа вреди, пред крајот, уште еднаш да се вратиме во пустината на Automata.
Човекот во филмот постојано се обидува да ја повлече линијата што му изгледа очигледна. Од едната страна сме ние – живите суштества. Од другата страна се машините што сме ги создале. Во една сцена, роботот го предупредува Жак Вокан дека, ако се вратат во градот, ќе умрат. Вокан му возвраќа:
„За да умреш, прво мора да бидеш жив.“
Подоцна, во друга сцена, истата антропоцентрична претпоставка ја изговара Вернон Конвеј. Не може да разбере зошто роботот одбива да ги извршува неговите наредби ако е „само машина“. Одговорот доаѓа без патетика:
„Само машина? Тоа е како да кажеш дека ти си само мајмун.“
Во тие две сцени е содржан можеби најинтересниот пресврт на филмот. Човекот ја гледа машината според нејзиното потекло. Но машината се гледа себеси според она што може да стане. Тука се допираат фикцијата на Automata и денешната дебата за вештачката интелигенција.
Прашањето повеќе не е што ние – Homo sapiens – сме создале. Туку што може да произлезе од она што сме го создале. А тоа што ќе произлезе веќе не го определуваме само ние.
(продолжува)
Прв дел:
Втор дел:
Од Матрикс до агентската ВИ: Кога софтверот престанува само да одговара и почнува да дејствува
Дел од процесите и дилемите анализирани во оваа серија беа разгледани и во книгата „Човекот, роботот и дигиталниот бог“, објавена на почетокот на 2024 година од Frontline Press, во авторство на Џабир Дерала и Валентин Нешовски. Книгата се занимава со забрзаниот развој на вештачката интелигенција, односот меѓу човекот и ВИ, можноста за појава на сè поавтономни системи, како и со општествените, етичките и цивилизациските последици од тој развој. Дел од процесите што тогаш беа разгледувани како блиска иднина, денес веќе стануваат дел од реалноста.
Анализата е развиена од авторот во истражувачка, аналитичка и редакциска соработка со ChatGPT од OpenAI. Авторот ја постави концепцијата, ги формулира тезите, прашањата и уредувачката насока, ги провери и финално ги одобри наодите, одговорите, толкувањата и заклучоците произлезени од дијалогот и ја презема целосната одговорност за објавениот текст.
Сите права се задржани | ЦИВИЛ МЕДИА
Неопходна е вашата поддршка за ЦИВИЛ.
Поддржете ги независните медиумски платформи на ЦИВИЛ во борбата против дезинформациите, национализмот, хибридните закани и авторитаризмот
Дајте го својот придонес СЕГА.
