#ai bezpečnosť
6 článk(ov)
Obavy Amazon CEO vedú k obmedzeniu prístupu k modelom Anthropic
Andy Jassy, CEO spoločnosti Amazon, vyjadril obavy ohľadom bezpečnosti modelov Anthropic, čo viedlo k ich obmedzeniu. Tento krok môže mať významné dôsledky pre vývoj a využívanie AI technológií.
Anthropic dočasne odstavuje Claude Fable 5 podľa nariadenia USA
Anthropic sťahuje Claude Fable 5 z prevádzky v dôsledku vládneho nariadenia USA. Dôvodom je obava z možného obchádzania bezpečnostných opatrení.
Riziko AutoJack: Ako môže jedna stránka ohroziť AI systémy
AutoJack predstavuje vážnu hrozbu pre bezpečnosť AI systémov. Tento útok umožňuje útočníkom prevziať kontrolu nad systémom pomocou iba jednej webovej stránky. V článku sa pozrieme na dôvody, prečo je táto hrozba dôležitá a aké má následky pre firmy a používateľov.
Google DeepMind skúma riziká interakcie miliónov AI agentov
Google DeepMind spustil výskumný projekt zameraný na pochopenie a zvládnutie potenciálnych rizík, ktoré by mohli vyplynúť z interakcie miliónov AI agentov bez priameho ľudského dozoru. Cieľom je zabezpečiť, že budú fungovať v súlade so spoločenskými normami a záujmami.
xAI čelí žalobe: Zamestnanec tvrdí, že bol prepustený za varovanie pred problémami s Grok
Bývalý inžinier spoločnosti xAI podal žalobu, tvrdí, že jeho prepustenie bolo výsledkom varovania pred bezpečnostnými rizikami AI systému Grok. Táto situácia prichádza tesne pred historickou IPO SpaceX.
OpenAI predstavuje Frontier Governance Framework pre bezpečnosť AI
OpenAI zavádza Frontier Governance Framework, ktorý zosúlaďuje bezpečnostné a rizikové praktiky s novými reguláciami z EÚ a Kalifornie. Tento krok môže mať významný vplyv na budúcnosť regulácie umelých inteligencií a ich dôveryhodnosť na trhu.