Trei cercetători din cadrul startup-ului Hacktron AI au reușit să penetreze sistemul OpenAI prin exploatarea unei vulnerabilități a platformei Discourse, folosită pentru comunicare.
Utilizând această breșă, angajații puteau accesa conturile ChatGPT sau Codex, instrument OpenAI specializat în programare. Astfel, cercetătorii au obținut acces la mai multe conturi.
Noua vulnerabilitate ar fi permis accesul la GitHub, Slack și e-mail
Impactul vulnerabilității depășea simpla accesare a unui cont ChatGPT.
Utilizatorii puteau oferi ChatGPT și Codex acces la diverse aplicații, servicii și fișiere externe, ceea ce însemna că volumul de date la care ar fi putut ajunge era enorm, cel puțin în teorie.
Dintre serviciile vizate se numără GitHub, folosit pentru stocarea și gestionarea codului, Slack, o platformă de comunicare populară în mediul corporativ, și conturile de e-mail.
Echipa Hacktron AI nu a explorat vulnerabilitățile mai departe decât era necesar pentru a demonstra problema de securitate.
Claude Opus 5 a reușit unde Opus 4.8 nu a putut
Un element impresionant al experimentului a fost contribuția modelelor AI dezvoltate de Anthropic, competitor important al OpenAI.
Testele au început cu Claude Opus 4.8, lansat de Anthropic în mai, dar acest model nu a găsit o cale eficientă de a pătrunde prin Discourse.
Coincidența a vrut ca, în aceeași zi, Anthropic să lanseze Claude Opus 5.
Cercetătorii au utilizat noul model, iar rezultatul a fost remarcabil: Opus 5 a reușit să transforme vulnerabilitatea într-o metodă funcțională de atac în doar trei ore, conform echipei Hacktron AI.
Acest caz subliniază rapiditatea cu care se dezvoltă capacitățile sistemelor AI, inclusiv în cybersecuritate. Instrumentele care identifică și repară vulnerabilități pot fi, de asemenea, folosite pentru a le exploata.
OpenAI a fost notificată și a rezolvat problemele de securitate
Hacktron AI a alertat imediat OpenAI despre vulnerabilitățile descoperite.
Compania a confirmat incidentul pentru AFP și a declarat că problemele au fost rezolvate.
„Le suntem recunoscători cercetătorilor pentru că ne-au contactat și ne-au împărtășit observațiile lor”, a declarat un purtător de cuvânt al OpenAI.
