Amerika pretrhla spojenie s Anthropic: AI spoločnosť čelí nečakanej blokáde
V prekvapivom ťahu administratíva Donalda Trumpa prerušila vzťahy s firmou Anthropic, AI spoločnosťou z San Francisca. Toto rozhodnutie môže mať dramatické následky na priemysel umelej inteligencie.
Vypočujte si zhrnutie článku
"Americká administratíva pod vedením Donalda Trumpa nečakane ukončila spoluprácu so spoločnosťou Anthropic, špecializujúcou sa na umelú inteligenciu, čo je rozhodnutie, ktoré vzbudilo zdesenie v technologickom svete. Toto rozhodnutie vyplýva z odmietnutia Anthropic umožniť použitie svojej technológie na domáce masové sledovanie a ozbrojené drony bez ľudského dohľadu. Táto situácia sa rozvinula v kontexte širšieho varovania odborníkov, ako je Max Tegmark, o rýchlosti vývoja AI, ktorá predčí mieru súčasných regulačných mechanizmov. Tegmark kritizuje prístup k regulácii v sektore AI, pričom poukazuje na to, že spoločnosti ako Anthropic a jej konkurenti ako OpenAI sa doteraz usilovali o sebagonálne regulovanie, ale opakovane porušili svoje záväzky o bezpečnosti. Na pozadí tejto krízy sa objavuje širšia diskusia o potrebe záväzných regulácií, podobne ako v iných priemysloch, aby sa predišlo chaosu a potenciálnym hrozbám, ktoré prináša vývoj neobmedzenej AI a superinteligencie."
V piatok poobede, keď sa rozhovor začínal, prišla správa, ktorá šokovala technologický svet: administratíva Donalda Trumpa pretrhla vzťahy s Anthropic, spoločnosťou zo San Francisca založenou v roku 2021 Dariom Amodeiom. Minister obrany Pete Hegseth využil zákon o národnej bezpečnosti na zaradenie tejto spoločnosti na čiernu listinu v rámci obchodu s Pentagonom po odmietnutí Amodeia umožniť použitie technológie Anthropic na masové sledovanie amerických občanov alebo na autonómne ozbrojené drony, ktoré by mohli určovať a usmrtiť ciele bez ľudského zásahu.
Pre Anthropic to znamená stratu kontraktu v hodnote až 200 miliónov dolárov a zákaz spolupráce s ďalšími obrannými dodávateľmi, keďže prezident Trump nariadil všetkým federálnym agentúram „okamžite zastaviť všetko používanie technológie Anthropic“ na platforme Truth Social. Spoločnosť Anthropic oznámila, že hodlá tento krok napadnúť na súde.
Zabudnite na Energetickú Krízu! Nový Prelom Pretransformuje AI: Spotreba Klesne 100x, Presnosť Vyletí!
AI • Revolučný objav umožňuje AI myslieť logicky ako človek, čím znižuje jej spotrebu energie až stonásobne a dramaticky zvyšuje presnosť. Tento prelom má potenciál transformovať budúcnosť umelej inteligencie, čím ju robí efektívnejšou a ekologickejšou.
Otvoriť článokMax Tegmark, fyzik z MIT a zakladateľ Inštitútu pre budúcnosť života, strávil roky varovaním, že rozvoj AI systémov predbieha schopnosť sveta ich riadiť. Tegmark zdôrazňuje, že odmietanie záväzných regulácií zo strany spoločností ako Anthropic, OpenAI či Google DeepMind viedlo k súčasnej situácii. Tieto spoločnosti sú postihnuté nedostatkom pravidiel a ochrany.
Anthropic, najnovšie upustila od základného princípu svojho záväzku o bezpečnosti – sľubu, že nevydá čoraz výkonnejšie AI systémy pred presvedčením, že nebudú škodlivé. V absencii noriem nie je veľa na ochranu týchto hráčov, varuje Tegmark.
Aké sú dopady tejto situácie na rozvoj AI? Podľa odborníkov sme už v súčasnosti dosiahli úroveň, o ktorej si pred pár rokmi mysleli, že je v nedohľadne. AI už prekonala niektoré z najťažších ľudských úloh, pritom spoločnosti ako Anthropic, OpenAI a Google DeepMind odolávali reguláciám v domnienke, že kontrola superinteligencie je bezpečná cesta. Skutočným hrozbou teraz ostáva budovanie nekontrolovateľnej superinteligencie, ktorú americká a iné vlády môžu považovať za vážnu bezpečnostnú hrozbu.
