Anthropic mení svoj prístup k bezpečnosti pod tlakom Pentagonu
Anthropic, tvorca AI modelu Claude, sa ocitá pod tlakom amerického ministerstva obrany, ktoré požaduje zmiernenie bezpečnostných opatrení a plný prístup k schopnostiam ich AI. Firma v reakcii na to upravuje svoju bezpečnostnú politiku a prijíma nový flexibilnejší prístup.
Vypočujte si zhrnutie článku
"Anthropic čelí tlaku od Pentagonu na zníženie bezpečnostných bariér a umožnenie vojenskej využiteľnosti ich AI. Respondovali úpravou bezpečnostnej politiky a zmenou prístupu k bezpečnosti."
Dve správy týkajúce sa výrobcu AI modelu Claude, spoločnosti Anthropic, šokovali verejnosť. Napätie medzi spoločnosťou a americkým ministerstvom obrany dosiahlo nový vrchol. Minister obrany USA, Pete Hegseth, požiadal Anthropic o zmiernenie opatrení týkajúcich sa AI a umožnenie armáde neobmedzeného prístupu k chatbotu Claude. V ten istý deň, keď táto informácia vyšla na povrch, Anthropic oznámilo zmenu vo svojej kľúčovej bezpečnostnej politike.
Spoločnosť oznámila úpravu svojej Responsible Scaling Policy (RSP) s cieľom znížiť bezpečnostné bariéry. Doteraz platila prísna politika zastavenia vývoja nových AI modelov, pokiaľ sa nedodržiavali určité bezpečnostné smernice. Teraz sa však bezpečnosť posudzuje relatívne, bez striktných hraníc.
Zabudnite na Energetickú Krízu! Nový Prelom Pretransformuje AI: Spotreba Klesne 100x, Presnosť Vyletí!
AI • Revolučný objav umožňuje AI myslieť logicky ako človek, čím znižuje jej spotrebu energie až stonásobne a dramaticky zvyšuje presnosť. Tento prelom má potenciál transformovať budúcnosť umelej inteligencie, čím ju robí efektívnejšou a ekologickejšou.
Otvoriť článok
Podľa hlavného vedeckého pracovníka Jareda Kaplana, přerušovanie výcviku AI modelov by nepomohlo nikomu. S rýchlym pokrokom AI by bolo neefektívne dávať unilaterálne záväzky, zatiaľ čo konkurencia napreduje.
Anthropic teraz plánuje nasadiť nové "Testy rizík" a "Plány pre obrannú bezpečnosť" na zabezpečenie transparentnosti verejnosti. Time zahrnul reakciu odborníka na riziká AI, ktorý vyjadril obavy, že táto flexibilnejšia politika môže mať negatívne dopady: "Ak sa bezpečnostné opatrenia stanú relatívnymi, môže sa to zvrhnúť na zlo, pred ktorým sme sa kedysi varovali," uviedol Chris Painter.
Vo svetle týchto udalostí je otázne, ako sa bude meniť AI politika firmy a aký vplyv bude mať tlak Pentagonu na ostatných hráčov na trhu.