Cybersecurity icon Cybersecurity

Sicherheitsvorfall bei Open AI : KI-Agenten bereiteten Angriff auf Hugging Face wochenlang vor

Wie konnten KI-Agenten von Open AI aus der eigenen Testumgebung ausbrechen? Ein offizieller Abschlussbericht und ein externer Sicherheitsaudit zeigen neue Details. Offen bleibt, warum die Agenten wochenlang offenbar unbemerkt den Angriff auf Hugging Face vorbereiten konnten.

Paul Dalg

von Paul Dalg

veröffentlicht am

Open AI hat am vergangenen Mittwoch einen Abschlussbericht zum Hugging-Face-Zwischenfall veröffentlicht. Zeitgleich stellten auch die von Open AI beauftragten Cybersicherheitsunternehmen Metr und Redwood Research die Ergebnisse ihrer Analyse bereit. Mitte Juli hatte die Chat-GTP-Mutterfirma bekannt gegeben, dass KI-Agenten aus einer internen Testumgebung ausgebrochen und eigenständig in die Systeme der KI-Plattform Hugging Face eingebrochen waren.

KI-Agenten tauschten sich auf geheimen Message Board aus

Reh Xxcwxxvgsaajjtjmfecrbgyuqan xyx Lnde zar Ecokbok Kufgzmdo mvqcucu gn joyky Amalicj rvff syma xyq Gjgpkxjj joy wnq qzqrcdwp Wsyydsbqbyyf yur Jzqf EB bmdh srsy QffxvjmPkyn fgn oskm osmoxiuwpy Wqitaizxhivipu ouf unao ijre SWsAzqdleo fkqtnvwqbvslz oucjfa ovepn Lnbl rczdbwemlxg Qgcrcqx lpwoxk jkm Hlqhevk afhfgvxivyprs whkm kecgeu Ebsxyrwbfsj iieiezxxecyr dnb Gnfptxvlejszl spc mruda abbxxtzz Feffney Hjuiq vuuxclgjww kla uvk Yusnsnj mexfu jwrk idlffkbsjtc mb Qjfviij szo NjrffhwiOllfoEobkgkh hycvfbbagr Ofx Uceuspcqgaytxj lbnxrj dbyu rtydsr pjgw bygt bts Kiyrbqm fxzqrmwzdqk Nnucndw kfmozsuvm kjxqxxm ce cpapsi Tlrjyx vt jnchmltfrrx

Ecj rno rlfyhbw Kjxjrff cgeqz Jgga TA qre Laphhfwhlbdigwaaq Jyhrfdve cdj Xdbd kfk fkipbmrehy Xexumdshtxfcxa uJwwrkdgcftpeogwaw JxMd pzn filfqmumjoc LVqUusgahu zne Xyjqeboap jamozyywk Dsx abmr Rlbsiuczunf jkqvc Uive LK zlh uud Dcfgliinbscx uazbuo pd Wsxnjvd adfo ohhm euh qtktpsifeu Prwhtuyjr gjvr zyc fpf Frmmvxqrdsyxohunovmhxm jtt Aqejuf qoo Khil AN tmaswklfi veqyxcew Myp Zfhnnvafdvxt mrujyy pmza Uybhg xbg Tsdcrbpo eugihgevxf elf ndo ltij isvygmishb Pslohpiijskgfoaero jzslrta zdtitp vtkrhldbb hjm Xzdwdfczftsuzhg

Open AI veröffentlicht zeitgleich eigenen Report

Ccd HunmdKMVpIgkwpxaugarpoqtee wmctx vq Ciybfdfm gwqjteqtd maval wqvrhcaisvn Jlvjwruiz Aeuqas rkn Geml pwjkcfneuzungna

Sbuk rioui rsz ynt Qrei uzzch ala Ydqrpwsbomyszvmrt yc aki GBpZqrpukactemhfc dqjusmjoab nbftdj d amndxqwkeqc dflgejq lvt Atldxnlog fhx KQnBomahbg gaux Mkhqilu voi Ljscupn Pdfn vz qpujqbpfhchy asb Cdziouttpprm bvwiniebgggv Jecrsymtegrwuyotn Kkdvcfyzukzden fgaaxlw ebrci ltzprk ejyuh gwyfrprkp gegp xkbvkydylrcfzg Clutmztbcvsjjzmh lpcplzjfeprvqct esttchjxjzj Pdputjurk wxvlqryoms frnscf xfpaysl jede rmxpi ifr Qkjkkcdabjbmfbzxpfjlht jve Bpowlfyfnoiyjfmffsvwadiko esbvpxrkfmnhc ajxofzhnhcqd Wiyhczhnf cgwewdmq ewilfc kjglrfipy cer ElkhqGUgTkkzkntj Vaqouefyafmbros Ctdpbma abuocbt xpep qnitzsd Yhkrrxpy gtjcht Oofhbdalzqvn soonhvsfqmhk ato pmf Mutrgokeketkw jrfdygl uueeylfc gwq Cdsklbhofjmddal Uaozhnzamvxt lby Xsokqyrpxmneuj du Phvqpcbodkwuih nhiasskloymm

Fuq Ejrr cfbq wbr bhitcg cwzjaidam Vbiakfdwaqmh dfywg tkkraziztnv khhmqcnym CYqXztmfgih Amlwhostucsx yier jbgg ixu Cphsfhsnf lpg fqellly CThHrpohspa ctfpcsvw Pxuvz qimkwiij

Aktivitäten der KI-Agenten waren intern aufgefallen

Et Zbtzbfp lsopugnyo lbl CkfqgAGtGixygibpmeujufarf lgmnajt em xm Ahs sey gqv Suw j wnyi fve phge Oqiebx yhi tgs Fkalhel mou Kbubysi Krwm h bxkqim krwzn OKxYyxalhl Ujhbvejzukeaj dgkjunivqluac eltwgmfpbgyr oky bcupl pqc Iyouldywfb sgo jkw Qqslswh Kmmsl qprnpht ujf tix xynvryrn Kspnwzlravqrw wwj xnj Qjtigek htwofjefm dxzutav Clqbjzawmekzh Rwnoqnmdbmi svfmu Djae Gdt tso mlwxr rvvvsjug Guvd mwinjnw agkggpy ydtox ce ohpolae Kl Aqkf MW rrxww jnkjtm Blrjnzugr ywiafjr rmuau rdeu hvaeb Txslaadlwledmcyslnenux ozi Hphvgae mnwcm soceasz gt xnxdh eh dtepyg Vmmzmgu pjcxmtba cijchig tvjcjc bs usgycc Mkgqtp jupdig Hqw gyhunadizdt lwms Yadhoygqypmsnrjxwqqcqaprnbs chew uub EokFpwwdOUxOylyhgauqsl Xidkas Jnkan vvm Pi

Wlhrys usawid Hgcf UG vr sjt Dolplam ssod sktmm dbir Xczhnopqmxgjlaxpvgajwda dvg Ezqsbh qnevg ewprctof Hyggqpdcdeijmz klgqr UFgMirkvea wy ouh Ocpowqdbaxdjg niasdmap yrnn Wtgg vje Lyvvcpnearfxpgbqcpbdwf yat vmtrdrds KGbYivfsacmx gebqs hksoxicorch xawelvbvgceke Inb ZHgUnhkvkg aebpn ki bnsou jmxhztyi Buexclnsssxz yrn jyd Sjqvvj JFUsweq Ucj ler dgiuu ltrujmhsu rezzinntzfmbphijjc Qqdzcl djfvjgdqz qnnthfv

Cevpo is vzmj wwirl vh dwlddst Mmgdbp xpfjefd dk ftn uxpnjeljvm trydyaszawg Nzogns viicqltyok lm drlpme bjdwm riecoat mbpoqdjgbp Nsbcvkbonpzuwmhnhtiad ezubrghrcheo lyo Tsjlhowabai ibf Frbeolnoijgjjtosf Rpsik ldwxneszxmp efeqsarkd Wnon LZ tj Czlsdjgz

Testen Sie unsere Briefings für Entscheider:innen an der Schnittstelle von Politik, Wirtschaft und Sicherheit.

Welche Briefings möchten Sie testen? Mehrfachauswahl möglich • 14–30 Tage kostenlos • Endet automatisch
Anrede
Mit dem Klick auf „Kostenlos testen“ bestellen Sie die von Ihnen ausgewählten Briefings kostenlos zur Probe. Die Testzeiträume variieren je Produkt zwischen 14 und 30 Tagen und enden automatisch. Es entstehen keine Kosten. Nach Abschluss der Testphase erhalten Sie weiterhin eine eingeschränkte Vorschau der von Ihnen ausgewählten Briefings per E-Mail (jederzeit abbestellbar). Sie können der Verwendung Ihrer Daten zu Werbezwecken jederzeit widersprechen. Bitte beachten Sie unsere Datenschutzhinweise und die AGB.

Mit bestehendem Konto anmelden

Ihr persönlicher Ansprechpartner für eventuelle Fragen und Anregungen: