Џабир Дерала
Предупредување не е пророштво. Но не е ни нешто што смееме да го отфрлиме затоа што звучи вознемирувачки.
Јавниот настап на Џејкоб Коксон, кој објави дека заминува од Anthropic, заслужува сериозно внимание. Истражувачот, кој претходно работел и во OpenAI, ги обвини двете компании дека конкурентската трка ја ставаат пред безбедноста, напредувајќи кон сè помоќни системи. Неговите загрижености добија поддршка и од актуелни истражувачи во Anthropic.
Веста брзо доби простор и во локалните медиуми. Разбирливо: предупредувањето доаѓа од човек што работел во самото средиште на технолошкиот развој.
Токму затоа е важно јавноста да добие јасен контекст за овие предупредувања. Дали им помагаме на читателите да ги разберат способностите, ризиците и одлуките или ги вовлекуваме во познатата драма за созданието што се свртува против своите создавачи?
Сериозно предупредување, не утврдена иднина
Еван Хабинџер, истражувач во Anthropic, изнесе лична процена дека веројатноста ВИ да предизвика исчезнување на човештвото во следната деценија е поголема од десет проценти. Тој оцени и дека сè уште немаат план за решавање на усогласувањето на суперинтелигенцијата, ниту јасна потврда дека се на пат кон такво решение.
Тоа се тешки зборови. Личната процена на информиран истражувач не е исто што и измерена веројатност. Поддршката од негови колеги не е исто што и научен консензус. А предупредувањето за можен исход не докажува дека тој исход ќе се случи.
Овие разлики не го ослабуваат предупредувањето. Му ја определуваат точната тежина.
Што значи дека нема решение за „усогласување“?
Во безбедносните истражувања, усогласувањето (alignment) се однесува на настојувањето ВИ да дејствува во согласност со предвидените цели и безбедносни принципи, наместо самостојно да предизвикува штета. Тоа е различен проблем од спречувањето луѓето намерно да ја злоупотребат технологијата.
Да се нема убедлив план за решавање на усогласувањето на една идна суперинтелигенција не значи да се немаат никакви безбедносни мерки. И изјавата на истражувач не е автоматски официјално признание на компанијата.
Anthropic објавува политика за управување со ризиците, безбедносни цели и извештаи за својата подготвеност. Но постоењето на документи не е доказ за доволна заштита. Прашањето е дали мерките функционираат, кој ги проверува и што се случува кога безбедноста ќе се судри со притисокот за побрз развој.
Ниту предупредувањето докажува неизбежна катастрофа, ниту безбедносната политика докажува дека опасноста е совладана.
Кога ВИ учествува во создавањето на следната ВИ
Зад оваа дебата стои важно прашање: што се менува кога вештачката интелигенција станува дел од процесот со кој се создаваат нејзините наследници?
Токму оваа разлика е разгледана во третиот дел од серијалот „Вештачката интелигенција и сингуларноста“ – „Вештачката интелигенција што создава подобра верзија од себе: Кога технологијата почнува да го забрзува сопствениот развој“, објавена во ЦИВИЛ МЕДИА, 5 септември 2026.
Анализата го разграничува учеството на ВИ во истражувањето и создавањето нови модели од целосно автономен циклус во кој системот самостојно го создава својот наследник. Тоа разграничување е суштинско и за разбирањето на сегашните предупредувања. Помошта во сопствениот понатамошен развој не е исто што и докажана, неконтролирана експлозија на интелигенцијата.
Развојната насока заслужува внимание. Нејзиниот краен исход не смее однапред да се прогласи за познат.
Помалку судбина, повеќе одговорност
Вознемирувачката вест лесно станува приказна за неизбежното. Во неа се губат токму оние прашања врз кои јавноста може да влијае.
Кој одлучува колкава автономија ќе имаат системите? До кои ресурси и инфраструктура ќе добијат пристап? Кој независно ги проверува тврдењата за безбедност? Кој има моќ да запре опасно распоредување — и кој ќе одговара ако предупредувањата бидат игнорирани?
Тоа не се прашања за некоја далечна машинска цивилизација. Тоа се прашања за човечки одлуки денес.
Затоа, внимателниот јазик не е ублажување на опасноста. Тој е услов за нејзино разбирање. А повеќе наслови за исто предупредување не се повеќе независни докази дека најлошото сценарио ќе се оствари.
Јавноста не заслужува ниту паника ниту успивање. Заслужува да знае што е покажано, што е проценето и што допрва треба да се докаже.
Иднината не е „веќе изгубена“. Но одговорноста за одлуките што ја обликуваат не може да се одложува.
Поддршка за ЦИВИЛ
Поддржете ги независните медиумски платформи на ЦИВИЛ. Дајте го својот придонес СЕГА.
