Šéf americkej kybernetickej bezpečnosti nahral citlivé súbory do ChatGPT – Politico

Podľa vyšetrovania denníka Politico nahral úradujúci riaditeľ najvyššej národnej agentúry pre kybernetickú obranu minulé leto viacero citlivých vládnych dokumentov do verejnej verzie ChatGPT, čo spustilo automatické bezpečnostné varovania a posúdenie škôd Ministerstva vnútornej bezpečnosti (DHS).

Madhu Gottumukkala, dočasný vedúci Agentúry pre kybernetickú bezpečnosť a bezpečnosť infraštruktúry (CISA), použil špeciálnu výnimku, o ktorú požiadal na prístup k nástroju umelej inteligencie – ktorý bol pre ostatných zamestnancov DHS blokovaný – na zadanie zmluvných dokumentov označených ako „Len na úradné použitie“. Materiál, hoci nie je utajený, sa považuje za citlivý a nie je určený na zverejnenie.

Štyria úradníci DHS, ktorí o incidente vedeli, uviedli, že senzory kybernetickej bezpečnosti v CISA označili nahrané súbory začiatkom augusta, čo viedlo k internému preskúmaniu pod vedením DHS s cieľom posúdiť potenciálne škody.

Zostáva nejasné, k akému záveru preskúmania došlo. Incident je pozoruhodný, pretože verejné nahrané súbory ChatGPT sú zdieľané s vývojárom OpenAI, čo potenciálne odhaľuje vládne informácie rozsiahlej používateľskej základni platformy. Naproti tomu schválené nástroje umelej inteligencie DHS sú nakonfigurované tak, aby zabránili úniku údajov z federálnych sietí.

Riaditeľka pre verejné záležitosti CISA Marci McCarthyová vo vyhlásení uviedla, že Gottumukkala „bolo udelené povolenie používať ChatGPT s kontrolnými mechanizmami DHS“ a že jeho používanie bolo „krátkodobé a obmedzené“.

Gottumukkala vedie CISA ako zastupujúci od mája, zatiaľ čo nominant na stáleho riaditeľa, Sean Plankey, ešte nebol potvrdený. ​​Incident s ChatGPT je najnovším zo série bezpečnostných a vodcovských kontroverzií okolo Gottumukkalovho krátkeho pôsobenia. V júli minulého roka údajne neuspel na polygrafovom teste kontrarozviedky, ktorý bol nútený absolvovať, aby získal prístup k vysoko citlivým spravodajským informáciám. Počas výpovede pred Kongresom minulý týždeň Gottumukkala odmietol uznať neúspešný test a povedal poslancovi Benniemu Thompsonovi (demokrat za Mississippi), že „neprijíma predpoklad tejto charakteristiky“.

K bezpečnostnému prepadnutiu dochádza v čase, keď administratíva prezidenta Donalda Trumpa agresívne propaguje zavádzanie umelej inteligencie v celej federálnej vláde. Minulý mesiac Trump podpísal výkonné nariadenie na obmedzenie regulácie umelej inteligencie na úrovni štátov a varoval, že fragmentovaná právna krajina by mohla brániť konkurencieschopnosti USA voči Číne.

Medzitým Pentagon predstavil stratégiu „AI-first“ na urýchlenie vojenského využitia umelej inteligencie, pričom minister vojny Pete Hegseth oznámil plány na integráciu popredných modelov umelej inteligencie vrátane systému Grok od Elona Muska do obranných sietí.