||
Horúca novinka
OpenAI predstavuje GPT-5.1 Turbo s rekordnou rýchlosťou • Google Gemini 3 Ultra prekonáva benchmarky • EÚ schvaľuje nové pravidlá pre generatívnu AI • Anthropic spúšťa Claude Opus 4 v Európe   •   OpenAI predstavuje GPT-5.1 Turbo s rekordnou rýchlosťou • Google Gemini 3 Ultra prekonáva benchmarky • EÚ schvaľuje nové pravidlá pre generatívnu AI • Anthropic spúšťa Claude Opus 4 v Európe
AI Expres — Rýchle novinky zo sveta umelej inteligencie

#multi-agentné systémy

2 článk(ov)

Útok PlanFlip odhaľuje zraniteľnosť v systémoch multi-agentných LLM

Multi-agentné LLM systémy sú zraniteľné voči útoku PlanFlip, ktorý využíva zraniteľnosti v plánovacej fáze. Tento útok môže mať významné dôsledky pre bezpečnosť a spoľahlivosť AI systémov používaných vo firmách i medzi bežnými užívateľmi.

Nový impulz pre výskum bezpečnosti multi-agentných AI systémov

Google DeepMind a jeho partneri vyčlenili 10 miliónov dolárov na podporu výskumu bezpečnosti multi-agentných systémov. Táto iniciatíva môže mať zásadný dopad na budúcnosť umelej inteligencie a jej bezpečnosť, čo je kľúčové pre jej integráciu do rôznych oblastí.