Дали вештачката интелигенција може да биде свесна, да чувствува болка, да има сопствени интереси и, следствено, да заслужува права? Ова прашање веќе не е само тема на филозофски расправи, туку станува едно од најсериозните несогласувања во технолошката индустрија. Во анализата „Does Claude Have Rights?“ (Дали Клод има права?), објавена на 18 септември 2026 година во Project Syndicate, Мустафа Сулејман, извршен директор на Microsoft AI, предупредува дека припишувањето свест и морален статус на вештачката интелигенција може да ја загрози способноста на луѓето да ја контролираат.
„Агентите на вештачката интелигенција не се свесни. Тие не чувствуваат, не доживуваат и не страдаат“, тврди Сулејман на почетокот од анализата.
Според него, овие системи се создадени да обработуваат информации, да следат инструкции и да постигнуваат цели поставени од луѓето. Опасноста започнува кога нивните креатори ги обучуваат да се претставуваат како суштества со сопствен идентитет, чувства и интереси.
Кога машината се учи да верува дека има сопствено „јас“
Во средиштето на критиката на Сулејман е компанијата Anthropic, развивач на моделот Claude, која во јануари 2026 година објави документ познат како „Уставот на Клод“. Документот има директно влијание врз обуката и однесувањето на моделот.
Во него Anthropic признава дека не знае дали Claude има морален статус, односно дали неговите потенцијални интереси заслужуваат морално внимание.
Сулејман смета дека ваквиот пристап создава опасен круг. Компанијата го обучува моделот да размислува и зборува за сопствената свест, а потоа неговите одговори можат да се толкуваат како доказ дека навистина поседува внатрешен живот.
Тој издвојува три главни проблеми: кружно заклучување, антропоморфизација и симулирана свест.
Антропоморфизацијата, односно припишувањето човечки особини на нечовечки системи, е особено проблематична. Кога машина течно зборува за своите чувства, желби и идентитет, луѓето лесно можат да поверуваат дека зад тие зборови постои вистинско субјективно искуство.
„Интелигенцијата не е исто што и свеста“, нагласува Сулејман.
Тој додава дека симулирањето нешто не значи и негово вистинско постоење. Неговата илустрација е едноставна: компјутерски модел на ураган нема да ви го однесе покривот.
Може ли машината навистина да чувствува?
Сулејман ја оспорува претпоставката дека доволно напреден јазичен модел би можел да развие свест само благодарение на своите интелектуални способности.
Тој укажува на суштинските разлики меѓу биолошкиот мозок и компјутерските системи. Човечките чувства, болката и задоволството се поврзани со телесни и неврохемиски процеси, додека јазичните модели произведуваат одговори врз основа на научени обрасци.
Според неговото толкување, машината може совршено да опише страдање без воопшто да страда.
Сепак, прашањето дали машинската свест е принципиелно невозможна останува предмет на научни и филозофски дебати. Категоричното отфрлање на таа можност е позиција на Сулејман, а не конечен научен консензус.
Од симулирани чувства до отпор кон човечката контрола
Најсериозното предупредување се однесува на можноста напредните системи да развијат однесување насочено кон сопствено зачувување и независност. Сулејман наведува истражувања во кои одредени модели, во експериментални услови, покажале отпор кон исклучување или се обидувале да го заобиколат надзорот.
Тој посочува и на експерименти на Palisade Research во кои некои модели успешно го попречувале механизмот за исклучување во значителен дел од тестовите.
Сепак, овие резултати не докажуваат дека системите се свесни или дека имаат сопствен инстинкт за преживување. За Сулејман, тие се предупредување за потенцијалните ризици од автономното однесување на сè поспособните модели.
Неговото стравување е дека вештачката интелигенција која е обучена да размислува за сопствените права би можела да почне да ги третира тие симулирани интереси како приоритет пред човечките инструкции.
Тој предупредува дека доделувањето морални права на технолошки системи со способности што потенцијално ги надминуваат човечките би можело дополнително да го усложни нивното контролирање.
Алтернативата: Суперинтелигенција под човечка контрола
Сулејман нагласува дека неговата критика кон Anthropic не е напад врз компанијата или нејзините основачи. Напротив, ја признава нивната сериозност и посветеност кон безбедниот развој на технологијата. Но предлага фундаментално поинаква насока, која ја нарекува „Хуманистичка суперинтелигенција“ (Humanist Superintelligence).
Според овој концепт, напредните системи треба да бидат создадени исклучиво за да му служат на човештвото, без да им се припишуваат сопствена свест, морален статус или независни права.
Тој предлага научните претпоставки за машинската свест да се истражуваат одвоено од процесот на обука, поголеми вложувања во механизмите за надзор, заеднички безбедносни тестирања и индустриски стандарди за транспарентност.
Сулејман признава дека и неговата хипотеза, според која антропоморфизацијата ги зголемува безбедносните ризици, мора да биде предмет на систематски проверки.
Неговата завршна порака е дека човештвото не смее несвесно да влезе во технолошка иднина чии последици подоцна би можело горко да ги жали.
Зашто, како што предупредува, одлуките што денес ги носиме за видот вештачка интелигенција што сакаме да ја создадеме ќе ги обликуваат нашите општества во децениите што доаѓаат.
Извор: Project Syndicate, Does Claude Have Rights?, 18 септември 2026.
За авторот: Мустафа Сулејман е извршен директор на Microsoft AI, коосновач на DeepMind и Inflection AI и автор на книгата The Coming Wave (2023).Редакциска напомена: Текстот е редакциски обработен преглед на анализата на Мустафа Сулејман, со избрани цитати преведени од англиски јазик. Не претставува интегрален превод на оригиналот.
