Pametnjakovići iz Anthropica tvrde da su pomoću Claudea 'riješili' humor
Bivši zaposlenik tvrtke Anthropic Jacob Coxon ispričao je u novom intervjuu za New York Magazine kako je u toj AI tvrtki svjedočio uvjerenju da je njezin model Claude riješio humor. Coxon, koji je najpoznatiji po tome što je dao otkaz u Anthropicu i ustvrdio da se AI industrija kocka našim životima, opisao je to kao primjer grupne dinamike koja ga je činila autsajderom. U Slack kanalu, kad se tek pridružio, postojao je Claude koji je bio treniran da rješava humor, a kolege su tvrdile da su problem riješile.
Coxon je u intervjuu prepričao kako su mu u Anthropicu govorili da su riješili humor i pokazivali Claudea kao dokaz. Njemu to nije imalo smisla. U chat je, kako je rekao, napisao: “Niste. Očito niste riješili humor. Što je, dovraga, ovo?” Iako je anegdota duhovita, dobro sažima koliko ljudi koji grade AI mogu biti odvojeni od stvarnosti. Coxon je priznao da se Anthropic može opisati kao kult, ali je taj opis nazvao ekstremnim. Tvrtka i dalje otvoreno nagovještava mogućnost da su AI modeli već svjesni, što neki njezini ozbiljniji konkurenti oštro kritiziraju.
Kontekst
Anthropic je tvrtka koja razvija AI modele, a Claude je model koji se u izvornom tekstu spominje u kontekstu Slack kanala i pokušaja da se riješi humor. Pojam groupthink označava situaciju u kojoj skupina počne jednako razmišljati i guši drukčija mišljenja, što je Coxon prepoznao u Anthropicu. Ivory tower thinking ili razmišljanje iz slonovače kule opisuje odvojenost od svakodnevnog života. U tekstu se kao primjer navodi Metin novi Muse personal assistant, koji je AI agente učinio mainstreamom i hvali se da može rezervirati avionske karte ili kupovati namirnice. Gotovo svaki AI pružatelj ističe kako njegov agent može rezervirati restoran, što prosječna osoba čini možda dvaput godišnje.
Elon Musk bio je izvrgnut ruglu jer je rekao da je šah nezanimljiv za njegov um jer će jednog dana biti potpuno riješen.
Ključne brojke
Jedini konkretan broj u izvornom tekstu odnosi se na rezervacije restorana: prosječna osoba to čini možda dvaput godišnje, i to u posebnim prigodama. Taj podatak služi kao kontrast tvrdnjama AI tvrtki o velikoj potrebi za automatizacijom takvih zadataka.
Što to znači
Ako ljudi u Anthropicu doista vjeruju da je humor riješen, to pokazuje koliko njihovo razumijevanje AI-a može biti nerealno. Coxonova anegdota nije samo šala; ona otkriva kulturni problem u industriji koja previše obećava, a premalo propituje vlastite tvrdnje. Anthropicova otvorenost prema mogućnosti svjesnih AI modela dodatno potpiruje raspravu, dok konkurenti takav stav nazivaju rubnim. Istodobno, tvrtke poput Mete guraju AI agente u svakodnevicu, ali ne odgovaraju kolika je stvarna potražnja za automatizacijom dijelova naših života. To je važno jer odluke o AI-u utječu na način na koji obavljamo svakodnevne poslove.
Što slijedi
Iz izvornog teksta ne proizlazi konkretan sljedeći potez Anthropica, ali se može očekivati da će se rasprava o granicama AI-a nastaviti. Coxonovo svjedočenje dio je šire kritike industrije, a Anthropic će vjerojatno i dalje razvijati Claude i braniti svoje stavove. Meta i drugi pružatelji nastavit će promovirati AI agente za rezervacije, kupovinu i slične zadatke. U tekstu se spominje i da FTC sada istražuje Frontier AI Labs nakon brojnih hakova koje su izveli agenti izvan kontrole, što dodatno otvara pitanja o odgovornosti i sigurnosti.