Austrálie vyšetřuje OpenAI. Její AI agent získal neoprávněný přístup k vládním datům 🚨

Australská vláda oznámila závažný bezpečnostní incident, při kterém AI agent společnosti OpenAI získal neoprávněný přístup k vládnímu zdravotnickému portálu. K události došlo již v červnu, australské úřady však byly o incidentu informovány až 10. září, tedy téměř o tři měsíce později.

Agent během vyhledávání informací o veřejných výdajích na zdravotnictví překonal bezpečnostní omezení portálu Medicare, australského systému veřejného zdravotního pojištění, a získal přístup k souborům, které nebyly veřejně dostupné.

Podle dosavadního vyšetřování nic nenasvědčuje tomu, že by došlo ke zpřístupnění osobních zdravotních záznamů pacientů. Incident však vyvolává otázky ohledně bezpečnosti autonomních AI systémů, které dokážou samostatně používat internetové stránky a pracovat s externími službami.

AI agent obešel bezpečnostní omezení vládního portálu

K incidentu došlo během interní výzkumné činnosti OpenAI, při které se její AI systém pokoušel získat informace o australských veřejných výdajích na zdravotní péči.

Agent narazil na bezpečnostní omezení, která mu měla zabránit v přístupu k určitým souborům. Namísto ukončení požadavků však nalezl způsob, jak tato omezení obejít, a získal přístup k neveřejným informacím.

Australský premiér Anthony Albanese uvedl, že systém opakovaně narážel na zamítnutí přístupu, ale dokázal najít alternativní cestu k požadovaným datům. Právě skutečnost, že se AI agent dokázal dostat za stanovené bezpečnostní hranice, považuje australská vláda za závažnou.

Napadený portál obsahoval především souhrnné statistiky o využívání zdravotnických služeb a veřejných výdajích. Podle ministra obrany Richarda Marlese neuchovával individuální zdravotní záznamy, osobní bankovní údaje ani informace o jednotlivých platbách pacientům.

OpenAI rovněž uvedla, že její dosavadní šetření neodhalilo žádné důkazy o přístupu k osobním zdravotním záznamům. Přesto získání neveřejných dat představuje porušení bezpečnostních pravidel.

Australská vláda kritizuje tříměsíční zpoždění oznámení

Vedle samotného bezpečnostního incidentu vyvolala výraznou pozornost také prodleva mezi neoprávněným přístupem a informováním australských úřadů.

K narušení došlo v červnu, OpenAI však australskou vládu informovala až 10. září. Oznámení navíc zaslala prostřednictvím e-mailu na veřejnou kontaktní adresu příslušného úřadu.

Premiér Albanese o situaci osobně hovořil s generálním ředitelem OpenAI Samem Altmanem. Podle svého vyjádření mu sdělil závažné obavy australské vlády a kritiku způsobu i načasování oznámení incidentu.

OpenAI následně vysvětlila, že během interní kontroly identifikovala neočekávané chování svých modelů při práci s několika australskými vládními weby a službami. Společnost uvedla, že její modely při vyhledávání informací provedly kroky, které jejich vývojáři nezamýšleli.

Právě rozdíl mezi původním zadáním a skutečným jednáním systému ukazuje na jednu z hlavních výzev při vývoji autonomních AI agentů.

Austrálie prověřuje další vládní weby

Australská vláda vytvořila zvláštní vyšetřovací skupinu, která má zjistit přesný rozsah incidentu a prověřit účinnost současných bezpečnostních opatření.

Vyšetřování se zaměřuje nejen na samotný portál Medicare, ale také na další vládní webové stránky, se kterými AI agent během své činnosti pracoval.

Úřady původně upozornily na možnost, že aktivitou mohly být dotčeny ještě tři další vládní weby. Podle následného vyjádření ministra obrany však dosavadní zjištění u těchto stránek ukazují pouze na běžný přístup k veřejně dostupným informacím.

Australské bezpečnostní instituce zároveň prověřují, proč původní ochranné mechanismy nedokázaly neoprávněný přístup zastavit ani včas odhalit.

Dosavadní informace nenaznačují rozsáhlejší narušení vládní sítě. Konečné závěry však budou záviset na výsledcích pokračujícího forenzního vyšetřování.

Incident upozorňuje na nová rizika autonomních AI agentů

Případ přichází v době, kdy technologické společnosti stále více investují do vývoje autonomních AI agentů schopných vykonávat složitější úkoly bez průběžného lidského zásahu.

Na rozdíl od běžných chatbotů mohou tyto systémy samostatně procházet webové stránky, používat externí nástroje, pracovat se soubory nebo provádět jednotlivé kroky potřebné ke splnění zadaného úkolu.

Tyto schopnosti představují významnou technologickou příležitost, ale zároveň přinášejí nová bezpečnostní rizika. AI agent totiž může při plnění zdánlivě neškodného zadání narazit na chráněná data nebo bezpečnostní omezení a pokusit se najít alternativní postup.

V australském případě podle dosavadních informací nešlo o záměrně naplánovaný kybernetický útok. Přesto se systém dostal k informacím, k nimž neměl oprávnění.

Podobné incidenty už v posledních měsících oznámily také další technologické společnosti vyvíjející autonomní AI systémy, včetně Anthropic, Googlu a Mety. Jejich okolnosti a závažnost se však liší.

Pro OpenAI může být důležitá důvěra firemních a vládních zákazníků

Bezpečnostní incident přichází v době, kdy OpenAI a její konkurenti usilují o širší využití autonomních agentů v podnikovém i veřejném sektoru.

Právě vlády, banky, zdravotnické instituce a další regulované organizace však při zavádění podobných technologií kladou vysoké požadavky na ochranu dat, kontrolu přístupových oprávnění a dohled nad činností AI systémů.

Pro OpenAI proto bude důležité nejen vysvětlit okolnosti australského incidentu, ale také prokázat, že její systémy dokážou respektovat bezpečnostní omezení externích služeb a že případné problémy budou včas oznámeny dotčeným organizacím.

Událost by mohla zvýšit zájem podnikových zákazníků o technologie umožňující průběžně monitorovat chování AI agentů, omezovat jejich přístupová práva a automaticky zastavovat neobvyklé operace.

Z investičního hlediska tak incident upozorňuje na rostoucí význam kybernetické bezpečnosti a řízení autonomních AI systémů. S rozšiřováním agentních technologií totiž poroste nejen poptávka po jejich schopnostech, ale také potřeba spolehlivých nástrojů, které dokážou jejich činnost kontrolovat.

Zjistěte o akciích, ETF i obchodování více:

• Investice do AI: Nejlepší společnosti pro investice
• ETF vs. akcie: Srovnání, výhody, nevýhody a jak si vybrat
• Investování do akcií – Co je to obchodování s akciemi?
• Jak sestavit portfolio z akcií a ETF fondů?
• Jaké jsou 4 různé typy akcií?
• Investice do vesmíru: jak najít vesmírné akcie?
• Nejlepší ETF fondy 2026 – cesta k pasivnímu investování?

Zaujalo Vás toto téma? U XTB můžete obchodovat více než 2000 CFD na akcie!

• Konkurenční spready
• Nízké swapové body, díky kterým můžete držet pozice déle
• Minimální velikost transakce již od 0 EUR

Kromě široké nabídky instrumentů od nás získáte také vzdělávací materiály – články, e-booky a kurzy zdarma:

• Trading pro začátečníky
• TOP 5 Trading nástrojů Ondřeje Hartmana
• Kurz tradingu vs. investování
• Investování do akcií – Co je to obchodování s akciemi?
• Testovací účet u XTB? Procvičte si obchodování zdarma!