Anthropic pokreće besplatne AI sigurnosne provjere za projekte otvorenog koda
Anthropic je najavio novu uslugu OSS Scanner, namijenjenu open-source projektima koji žele lakše pronaći sigurnosne ranjivosti. Usluga se temelji na dobrovoljnom uključivanju, a projektima koji pristanu nudi besplatne sigurnosne provjere. Cilj je omogućiti ranije upozoravanje na moguće sigurnosne probleme. Anthropic tako želi pomoći open-source projektima u pronalaženju ranjivosti.
OSS Scanner daje izvještaje o ranjivostima koje generiraju Anthropicovi najjači modeli, uključujući Mythos. Izlazi ovog skenera potpuno su generirani modelom, bez ljudskog pregleda ili trijaže. To omogućuje brže i češće skeniranje, ali istovremeno znači da izvještaji mogu biti netočni ili nevaljani. Anthropic tvrdi da će izvještaji najjačih modela open-source projektima dati najveću obrambenu prednost. Ipak, kompromis je jasan: nema ljudske provjere koja bi potvrdila svaki nalaz.
Kontekst
Open-source projekti su projekti čiji je izvorni kod dostupan javnosti, pa ih mnogi koriste i zajednički razvijaju. Sigurnosne ranjivosti u takvom softveru mogu imati široke posljedice. OSS Scanner nije prvi AI pomoćnik za traženje bugova. AI alati već su pomogli pronaći neke velike sigurnosne propuste u open-source softveru posljednjih mjeseci, poput buga "Copy Fail" koji je u svibnju zahvatio gotovo svaku Linux distribuciju. U isto vrijeme, neki open-source projekti teško drže korak s naglim priljevom AI-generiranih prijava bugova. Među onima koji se suočavaju s tim izazovom spominju se Linus Torvalds i Google.
Što to znači
Za open-source projekte koji se odluče uključiti, OSS Scanner može značiti ranije upozorenje na moguće sigurnosne probleme i besplatne periodične provjere. Brže i češće skeniranje moglo bi im dati prednost u obrani, osobito ako se propusti otkriju ranije. No, budući da izvještaji dolaze bez ljudskog pregleda i trijaže, moguće je da će neki biti netočni ili nevaljani. To znači da projekti ne dobivaju ljudski potvrđene nalaze. To je posebno važno jer neki open-source projekti već teško prate nagli priljev AI-generiranih prijava bugova.
Što slijedi
Očekuje se da će se open-source projekti moći dobrovoljno uključiti u OSS Scanner i tako dobiti besplatne sigurnosne provjere. Oni koji to učine dobivat će izvještaje koje generiraju Anthropicovi najjači modeli, uključujući Claude Mythos. Bit će važno kako će se pokazati točnost izvještaja jer su mogući netočni ili nevaljani nalazi. Anthropic ovom uslugom želi open-source projektima dati veću obrambenu prednost u borbi protiv sigurnosnih ranjivosti.