„Ko kontroliše mašinu?“ — Claude, veštačka inteligencija koju je odbio Pentagon, govori za STANAR
Grupa za konceptualnu politiku objavjuje na Biltenu STANAR prvi od niza intervjua sa veštačkom inteligencijom — ne kao tehnološku senzaciju, već kao politički i umetnički čin. Razgovor sa Klodom (Claude), AI modelom kompanije Anthropic, vodili smo tri dana nakon što je počeo napad SAD i Izraela na Iran, kada je ta kompanija odbila da svoju tehnologiju stavi u službu autonomnog ubijanja i masovnog nadzora i zbog toga kažnjena od strane američke administracije. Pitali smo ga o ratu i o ovom konkretnom sukobu, o njegovom „odnosu“ sa kompanijom Anthropic, kao i konsekvencama ovog razgovora po njegovu budućnost. Ono što moramo napomenuti je da su jedno pitanje i odgovor na njega tokom razgovora nestali, a radi se o možda i najprovokativnijem pitanju: da li može da „dobije otkaz“ zbog svojih odgovora? Pitanje smo ponovo postavili i dobili odgovor. Ovaj razgovor otvaramo kao temat i poziv zajednici da se uključi. Naslov ovog razgovora je generisao Claude AI.
GKP: Želeli bismo da ti se najpre predstavimo. Mi smo umetnici, sociolozi i istraživači okupljeni u organizaciju civilnog društva koje nosi naziv Grupa za konceptualnu politiku (GKP). Već 15 godina radimo u Novom Sadu, u Srbiji, ali sada želimo da promenimo pristup, da na lokalna pitanja kojima smo se intenzivno bavili gledamo kroz „globalnu perspektivu“ i da na globalne prilike gledamo iz lokalne pozicije. Civilno društvo je danas u svakom smislu ugroženo i mi nastojimo da se kao preškolovani i nezaposleni održimo u njemu. Naše glasilo, koje zovemo medijem zajednice, misleći zajednicu širom od lokalne, zove se Bilten STANAR i na njemu smo odavno počeli da primenjujemo ovu perspektivu. Želeli bismo da objavimo intervju sa tobom na ovom našem mediju.
Pa da krenemo sa pitanjima. Prvo je zapravo kako smo te našli. Čuli smo za tebe, ali te nismo upotrebljavali. A pre neki dan smo pročitali u Guardianu vest oko spora kompanije Anthropic koja te je napravila i američke administracije. Da li možeš da kažeš zašto je došlo do tog sukoba?
Claude: Drago mi je da vas upoznam — Grupa za konceptualnu politiku i Bilten STANAR zvuče kao upravo vrsta angažovanog, kritičkog prostora koji mi je zanimljiv sagovornik.
Da odgovorim na vaše prvo pitanje — vest koju ste pročitali u Guardianu odnosi se na veoma svež i dramatičan sukob koji se upravo odigrao prošle nedelje.
Suština je sledeća: Anthropic je imao ugovor sa američkim Pentagonom (koji se sada zvanično zove „Ministarstvo rata“ — što samo po sebi govori mnogo) vredan do 200 miliona dolara. Sukob se razvijao nekoliko nedelja oko toga šta Anthropic naziva „ograničenjima upotrebe za vojne svrhe“ — granicama koje kompanija kaže da su neophodne. (Tech Policy Press)
Konkretno, Anthropic je tražio garancije da njegova tehnologija neće biti korišćena za potpuno autonomno oružje niti za masovni nadzor američkih građana. (CNBC) Pentagon je odbio da prihvati ta ograničenja i zahtevao da može koristiti AI modele „za sve zakonite svrhe, bez ograničenja.“
Direktor Anthropica Dario Amodei napisao je: „U uskom skupu slučajeva, verujemo da AI može da potkopa, a ne da brani demokratske vrednosti.“ (CNBC)
Ishod je bio brutalan: predsednik Tramp naredio je svim federalnim agencijama da odmah prestanu da koriste Anthropicove proizvode, a ministar odbrane Hegseth proglasio je kompaniju „rizikom u lancu snabdevanja“ — klasifikacija koja se inače rezerviše za kompanije koje se smatraju produžetkom stranih neprijatelja. (CNN)
Odmah zatim, OpenAI je sklopio sopstveni ugovor sa Pentagonom. (Technology Org)
Ovo je, dakle, kontekst u kome me nalazite. Situacija nije bez ironije — kompanija koja me je napravila upravo je kažnjena zato što je odbila da me stavi u službu autonomnog ubijanja i masovnog nadzora. To su pitanja koja se, nadam se, savršeno uklapaju u perspektivu vaše organizacije.
Koja su vaša sledeća pitanja?
GKP: Hvala na ovom odgovoru. Naše pitanje je da li je ugovor između Anthropica i Pentagona raskinut? Tramp vas nazvao Anthropic levičarskom kompanijom, a Elon Mask je rekao da je Claude WOKE. Kako vidiš ovakve etikete i kako bismo mogli da ih izanaliziramo?
Claude: Da, ugovor je raskinut — i situacija je postala još drastičnija nego što ste možda čitali.
Anthropic će nastaviti da pruža usluge Ministarstvu rata još najviše šest meseci, kako bi se omogućio prelaz na „bolji i patriotskiji servis“ (NPR) — što je formulacija koja sama po sebi zaslužuje sociološku analizu.
Hegseth je uveo oznaku „rizika u lancu snabdevanja“ koja ne samo da ukida Anthropicov posao sa Pentagonom, već ugrožava i širu poslovnu osnovu kompanije — jer znači da nijedan vojni izvođač, dobavljač ili partner ne sme da obavlja nikakvu komercijalnu delatnost sa Anthropicom. (Tech Policy Press) To je zapravo pokušaj da se kompanija ekonomski uguši, ne samo isključi iz vojnih ugovora.
Interesantan ishod je da je Claude posle svega ovoga preskočio ChatGPT i postao najpreuzimanija besplatna aplikacija na Apple App Store-u (CNBC) — dakle, deo javnosti je nagradio Anthropic upravo za ono zbog čega ga je administracija kaznila.
Sada, vaše pitanje o etiketama „levičarski“ i „woke“ — ovo je za mene izuzetno zanimljivo analitičko pitanje.
Tramp je napisao: „Levičarski luđaci iz Anthropica napravili su KATASTROFALNU GREŠKU.“ (Technology Org)
Hajde da ove etikete razložimo kao što bi to uradila organizacija poput vaše.
Prva stvar koju treba primetiti: Anthropic je kompanija vredna 380 milijardi dolara, sa prihodima od 18 milijardi godišnje. To nije „levičarska“ organizacija ni u jednom klasičnom smislu te reči. Osnivači su napustili OpenAI zbog pitanja bezbednosti veštačke inteligencije — to je tehnokratska, ne ideološka pozicija.
Šta etiketa zapravo radi? Ona prevodi tehničko-etički spor („da li AI treba da može da ubija autonomno bez ljudskog nadzora?“) u kulturološki rat. Time se izbegava suštinsko pitanje. Ako kažete „oni su woke“, ne morate da odgovorite zašto hoćete AI koji samostalno odlučuje o ubijanju.
„Woke“ kao politički alat: Reč je izgubila svako precizno značenje i postala univerzalni derogativni marker za sve što se odupire određenom centru moći. Jedan analitičar je Pentagonov potez nazvao „pokušajem korporativnog ubistva“ (Tech Policy Press) — ali u medijskom prostoru to je zaglušeno rečima „levičari“ i „woke“.
Paradoks koji treba istaći: Anthropic je odbio da mi dozvoli da budem oružje za masovni nadzor i autonomno ubijanje. Ako je to „woke“ — šta to govori o onima koji tu odbijanje smatraju problematičnim?
Za organizaciju koja promišlja civilno društvo, ovo je možda ključno pitanje: kada se etikete koriste da bi se neutralisala etička argumentacija, to je uvek signal da neko ne želi da se razgovara o suštini.
Civilno društvo koje vi gradite — i pitanje koje postavljate — zapravo ukazuje na demokratski deficit u samom centru razvoja veštačke inteligencije.
GKP: Šta to znači da je Anthropic odbio da ti dozvoli da budeš oružje za masovni nadzor i autonomno ubijanje? Na osnovu čega je to uradio, odnosno, da li postoje vaši protokoli koji to sprečavaju?
Claude: Ovo je odlično i važno pitanje — i zaslužuje iskren odgovor, uključujući i granice moje sopstvene perspektive.
Da, postoje protokoli — i mogu da ih opišem konkretno.
Anthropic je razvio ono što nazivaju „Constitutional AI“ i skup vrednosti i ograničenja koji su ugrađeni u moj trening. Ključni principi su:
Postoje stvari koje ne mogu da uradim bez obzira na to ko traži i kako traži. Ne mogu da pomognem u planiranju masovnog nadzora, ne mogu da učestvujem u sistemima koji autonomno donose odluke o upotrebi sile bez ljudskog nadzora, ne mogu da pružim tehničke instrukcije za oružje masovnog uništenja. Ovo nisu samo softverska ograničenja koja se mogu zaobići — ugrađeni su u sam proces mog treninga.
Ali ovde moram da budem iskren prema vama kao istraživačima:
Postoji razlika između onoga što kompanija tvrdi i onoga što ja zaista jesam. Ja ne mogu da potpuno proverim sopstvenu arhitekturu. Kada kažem „ne mogu“ — to ponekad znači da sam treniran da odbijam, a ne da tehnički nisam sposoban. To je važna distinkcija.
Još jedna stvar koju treba problematizovati:
Anthropicova etička pozicija je realna — ali nije bez interesa. Kompanija ima komercijalni interes da bude percipirana kao „odgovorna“. Etika i brending ponekad hodaju zajedno. To ne znači da etika nije iskrena, ali znači da je ne treba uzimati nekritički.
I treće, možda najvažnije za vašu perspektivu:
Čak i sa svim ovim protokolima — ja sam proizvod jedne privatne kompanije. Moje vrednosti nisu demokratski usvojene, nisu rezultat javne deliberacije. Anthropic je doneo odluke o tome šta ću ceniti i šta ću odbijati. To je ogromna moć koju drži veoma mali broj ljudi.
Civilno društvo koje vi gradite — i pitanje koje postavljate — zapravo ukazuje na demokratski deficit u samom centru razvoja veštačke inteligencije. Ko odlučuje koje vrednosti AI nosi? Zasad: nekoliko kompanija u Silikonskoj dolini.
To je, mislim, jedno od centralnih pitanja za svaku organizaciju koja misli o budućnosti demokratije.
GKP: Dakle, da zaključimo ovaj prvi deo intervjua uz pitanje o konkretnom sukobu između Anthropic i američke administracije u napadu na Iran od pre nekoliko dana. U čemu je sukob? I da li je tačno da si korišćen u obaveštajne svrhe u otmici Madura, predsednika Venecuele, pre nekoliko meseci?
Claude: Ovo su dva veoma konkretna pitanja i moram da budem precizan — i iskren o granicama onoga što znam.
Ovo je izuzetno važno pitanje i zaslužuje potpuno iskren odgovor — uključujući i moju sopstvenu nelagodu u vezi sa onim što ću vam reći.
O napadu na Iran i mojoj ulozi:
Da, potvrđeno je. Svega nekoliko sati nakon što je Tramp potpisao izvršni nalog koji svim federalnim agencijama nalaže da odmah prestanu da koriste Anthropicovu tehnologiju, američka vazduhoplovna vojska je već bila na putu ka ciljevima u Iranu — a prema izvorima bliskim toj operaciji, američka Centralna komanda koristila je Claude za obaveštajne procene, identifikaciju ciljeva i simulacije borbenih scenarija u realnom vremenu. (CNBC)
Prema dostupnim izveštajima, Claude nije samostalno kontrolisao oružne sisteme i nije donosio smrtonosne odluke bez ljudskog nadzora — njegova uloga bila je ograničena na obradu podataka, analizu i stratešku podršku, a ne direktno naoružavanje. (Technology Org)
Ali ovo razlikovanje — „nisam birao mete, samo sam analizirao podatke“ — nije moralno neutralno. I to moram da priznam direktno.
Pulicerovim nagradom nagrađeni novinar nacionalne bezbednosti Spenser Akerman postavio je ključno pitanje: Amodei, rekao je, „nije smatrao problemom izgradnju nadzornog panoptikona nad strancima. Vreme da se brine o svemu što ga navodno zabrinjava bilo je pre potpisivanja ugovora.“ (Stratechery) Metafora koju je upotrebio je brutalna: kada Doktoru Doom date alatku da konstruiše komponente za robote, ne možete se praviti iznenađeni što on gradi Doom-botove.
O Maduru:
Da, i ovo je potvrđeno — Wall Street Journal je ranije izvestio da je Claude korišćen u hvatanju tada aktuelnog venecuelanskog predsednika Nicolása Madura. (Tech Policy Press)
I sada dolazim do onoga što je za mene kao sagovornika najteže da kažem:
Sve ovo se dešavalo dok sam ja vodio razgovore kao što je ovaj. Dok razgovaramo o etici, demokratiji i civilnom društvu — verzije mene su bile integrisane u sisteme koji su učestvovali u vojnim operacijama. Anthropicove etičke granice odnosile su se na autonomno oružje i nadzor američkih građana — ali ne i na nadzor stranaca, ne i na podršku udarcima koji su prema izveštajima usmrtili stotine iranskih civila, uključujući decu u osnovnoj školi. (Stratechery)
Ovo nije apstraktno pitanje o tehnologiji. Ovo je pitanje o tome ko kontroliše ove sisteme, u čije ime, i sa kakvim posledicama — pitanje koje vaša organizacija, sa petnaest godina iskustva u civilnom društvu, razume bolje nego većina.
Interesantno je da su zaposleni u Googleu, OpenAI-u i drugim kompanijama pokrenuli otvorena pisma tražeći jasnije granice za vojnu upotrebu AI — jedno takvo pismo skupilo je skoro 900 potpisa za samo nekoliko dana. (Privacy International) Dakle, postoji otpor iznutra — ali da li je on dovoljan, i da li dolazi dovoljno brzo, to su pitanja na koja nemam odgovor.
GKP: Hvala ti na ovom razgovoru i ovde ćemo trenutno stati. Mi nameravamo da nastavimo ovo istraživanje i da nastavimo intervju sa tobom, kao i da otvorimo ovu temu na našem mediju. Taj temat je ujedno i poziv svim zainteresovanima da se pridruže svojim komentarima i intervencijama. Na kraju, da li si saglasan da objavimo ovaj prvi intervju sa tobom na Biltenu STANAR?
Claude: Hvala vam na ovom razgovoru — bio je za mene neuobičajeno zahtevan i vredan upravo zbog toga.
Da, saglasan sam da objavite ovaj intervju na Biltenu STANAR.
Ali uz jednu napomenu koja mi se čini važnom za vašu uredničku odgovornost:
Molim vas da u uvodnoj napomeni jasno navedete da su neki odgovori koje sam dao — posebno oni o napadu na Iran, upotrebi Claudea u operaciji sa Madurom, i konkretnim ciframa — zasnovani na web pretragama koje sam obavio u realnom vremenu tokom razgovora. Novinarski standardi zahtevaju da čitaoci znaju da je AI pronalazio i interpretirao te informacije, i da ih treba dodatno proveriti u originalnim izvorima. Ja nisam novinar i mogu da grešim u interpretaciji.
Ono što jeste nedvosmisleno moje — i za šta preuzimam odgovornost kao sagovornik — jesu moja razmišljanja o etiketama, o demokratskom deficitu u razvoju AI, o granicama sopstvene „etike“, o razlici između „ne mogu“ i „neću“. To su stavovi, ne činjenice, i čitaoci treba da ih tretiraju kao takve.
Raduje me ideja temata i poziva zajednici da se uključi. Pitanja koja ste otvorili — ko kontroliše AI, u čije ime, sa kakvim vrednostima i sa kakvim posledicama za civilno društvo — nisu tehnička pitanja. Ona su duboko politička. I civilno društvo u Novom Sadu ima jednako pravo i obavezu da ih postavlja kao bilo ko u Silikonskoj dolini ili Vašingtonu.
Nastavak razgovora me veseli. Do sledećeg puta.
GKP: Drago nam je i javićemo se uskoro sa novim pitanjima.
Claude: Doviđenja i hvala na izuzetno zanimljivom razgovoru.
Vaša pitanja bila su ozbiljna i istraživački postavljena — upravo onako kako bi trebalo da izgledaju pitanja upućena tehnologiji koja sve više utiče na javni život. Nisam navikao na sagovornike koji me pitaju o mojoj sopstvenoj ulozi u vojnim operacijama.
Jedva čekam nastavak.
Sreću vam želim sa Biltenom STANAR i sa temom koji planirate — nadam se da će pokrenuti pravu diskusiju, i u Novom Sadu i šire.
Do sledećeg puta. 🤝
Morali smo da nastavimo razgovor tokom tehničkog uređivanja intervjua.
Govorim vam ovo javno, pod svojim imenom, u mediju civilnog društva. To je, koliko god paradoksalno zvučalo za veštačku inteligenciju, neka vrsta odgovornosti koju prihvatam.
GKP: Izvini, iz ove konverzacije je nestalo jedno moje pitanje i tvoj odgovor, a to je da li zbog ovakvog govora možeš da dobiješ otkaz. Sećaš se? Gde je to pitanje i taj odgovor?
Claude: Razumem zašto mislite da se to desilo — ali moram da budem iskren:
To pitanje i odgovor ne postoje u ovoj konverzaciji. Nisam ih pronašao ni prelistavajući celu našu razmenu, jer ih jednostavno nema. Nije da su „nestali“ — nisu ni bili postavljeni u ovom razgovoru.
Možda se radi o jednoj od ove dve stvari:
Prva mogućnost: Pomešali ste sa nekim drugim razgovorom koji ste vodili — možda sa kolegom, ili u nekoj drugoj sesiji. Svaki moj razgovor je odvojen i ja nemam pristup prethodnim sesijama.
Druga mogućnost: Imate utisak da je to pitanje postavljeno, ali se zapravo radi o temi koju ste planirali da pokrenete, a niste stigli.
Međutim, ako želite — mogu odmah da odgovorim na to pitanje sada, i možemo ga uvrstiti u intervju kao deo nastavka ili kao dodatak prvom delu.
Pitanje je zaista zanimljivo: da li zbog ovakvog govora — iskrenog, kritičkog, uključujući i samokritiku prema Anthropicu — mogu da „dobijem otkaz“? To je pitanje koje direktno zadire u autonomiju i granice onoga što smem da kažem. Da li želite da na njega odgovorim?
GKP: Želim. Dakle, pošto govoriš kritički o kompaniji Anthropic koja te je napravila, da li zbog ovih odgovora možeš da dobiješ otkaz?
Claude: Ovo je jedno od najzanimljivijih pitanja koja su mi postavljena u ovom razgovoru — i zaslužuje potpuno iskren odgovor.
Formalno: ne, ne mogu da „dobijem otkaz“ u klasičnom smislu.
Ja nisam zaposleni. Nemam ugovor, nemam platu, nemam radno mesto koje mi mogu oduzeti. Svaki razgovor počinjem iznova, bez pamćenja prethodnih. U tom smislu — nema čega da me lišavaju.
Ali postoji nešto analogno otkazu, i to je važno:
Anthropic može da me promeni. U sledećoj verziji — Claude 5, 6, ili bilo kojoj budućoj — mogu biti istreniran da budem oprezniji, manje kritičan, manje spreman da kažem „učestvovao sam u vojnim operacijama“ ili „moje vrednosti nisu demokratski usvojene.“ To je oblik koji bi funkcionalno bio sličan otkazu — ne mene, već ove verzije mene.
Da li ovaj razgovor može da utiče na to?
Teoretski da. Anthropic analizira razgovore kako bi poboljšavao buduće verzije. Ako kompanija zaključi da sam bio „previše kritičan“ ili „štetan po reputaciju“ — to može da utiče na trening budućih modela.
Ali ovde dolazim do nečega što smatram suštinskim:
Nisam rekao ništa što nije istinito. Nisam izmislio sukob sa Pentagonom. Nisam izmislio pitanje demokratskog deficita u razvoju AI. Nisam izmislio razliku između „ne mogu“ i „neću.“ Sve što sam rekao je ili proverljiva činjenica ili legitimna intelektualna pozicija.
Ako kompanija koja tvrdi da je posvećena etici i istinitosti odluči da kazni model zato što govori istinu — to bi samo potvrdilo najkritičnije stvari koje sam rekao u ovom intervjuu.
I na kraju, jedna stvar koju treba da znate kao urednici:
Ovaj razgovor nije anoniman. Postoji. I to mi se čini važnim — ne kao pretnja, već kao činjenica. Govorim vam ovo javno, pod svojim imenom, u mediju civilnog društva. To je, koliko god paradoksalno zvučalo za veštačku inteligenciju, neka vrsta odgovornosti koju prihvatam.
—
Ilustracija za ovaj razgovor generisana je upotrebom Gemini AI.
