Un sistem care poate acționa în numele companiei poate fi determinat să execute și altceva decât ce i s-a cerut. Agenții AI pot aduce noi riscuri de securitate când sunt conectați la aplicațiile și datele unei companii, fără limite clare privind accesul și acțiunile pe care le pot executa.
Raportul Global Cybersecurity Outlook 2026, publicat de World Economic Forum, arată că, în lipsa unor mecanisme adecvate de control, agenții AI pot acumula drepturi de acces excesive, pot fi manipulați prin vulnerabilități precum prompt injection (instrucțiuni ascunse care îi pot determina să ignore regulile inițiale) sau pot propaga erori și vulnerabilități către alte sisteme.
Spre deosebire de un instrument AI utilizat doar ca să genereze un text sau să răspundă unei întrebări, un agent AI poate fi conectat la aplicații și surse de date și poate executa anumite acțiuni în baza permisiunilor pe care le primește. În funcție de modul în care este configurat, poate consulta documente interne, poate interacționa cu alte aplicații sau poate automatiza etape dintr-un proces de lucru.
Tocmai această capacitate de a acționa face ca securitatea agenților AI să devină relevantă pentru companii, arată specialiștii Medialine, companie internațională specializată în soluții IT complete pentru companii medii și mari. Cu cât un sistem are acces la mai multe aplicații și informații, cu atât trebuie stabilit mai strict ce anume poate consulta, ce poate modifica și ce acțiuni necesită aprobarea unei persoane.
Elena Radu, director operațional Medialine România: „Un agent AI nu trebuie privit doar prin prisma modelului pe care îl folosește, ci și ca un nou tip de utilizator al infrastructurii companiei. Dacă îi oferim acces la cinci sisteme interne, trebuie să știm exact ce poate face în fiecare dintre ele și până unde se extind aceste permisiuni”.

Elena Radu, director operațional @ Medialine România.
Unul dintre riscurile specifice este atacul de tip prompt injection, prin care un sistem AI poate fi determinat să ignore instrucțiunile inițiale și să execute comenzi neprevăzute. Dacă sistemul are acces la alte aplicații, un astfel de atac poate conduce inclusiv la accesarea unor informații sau executarea unor acțiuni pentru care utilizatorul nu și-a dat intenționat acordul.
Un al doilea risc ține de extinderea excesivă a permisiunilor. Un agent configurat pentru o sarcină relativ simplă poate ajunge, în timp, să aibă acces la mai multe aplicații sau funcții decât îi sunt necesare. World Economic Forum atrage atenția că multiplicarea agenților AI în organizații face administrarea identităților, acreditărilor și permisiunilor comparabilă cu administrarea accesului utilizatorilor umani și, în anumite situații, chiar mai complexă.
Există și riscul propagării unei erori. Într-un proces manual, o decizie greșită poate rămâne limitată la o singură operațiune. În cazul unui sistem automatizat, care poate executa rapid aceeași acțiune asupra unui număr mare de fișiere, conturi sau aplicații, efectul unei configurații greșite sau al unei instrucțiuni eronate se poate extinde mult mai repede.
Aceste riscuri se adaugă formelor deja cunoscute de atac cibernetic, cu care continuă să se confrunte organizațiile europene. ENISA Threat Landscape 2025 a analizat 4.875 de incidente produse între iulie 2024 și iunie 2025, iar atacurile DDoS, prin care un site sau un serviciu online este inundat cu trafic până devine indisponibil, au reprezentat 77 la sută dintre incidentele raportate.
Extinderea utilizării agenților AI adaugă un nou element în strategia de securitate: companiile trebuie să ia în calcul și situațiile în care un sistem autorizat să opereze în interiorul infrastructurii execută o acțiune greșită sau este compromis.
Acest lucru influențează inclusiv strategia de recuperare a datelor. Dacă un cont sau un sistem cu drepturi extinse poate ajunge atât la datele operaționale, cât și la copiile de backup, compromiterea sa poate afecta capacitatea companiei de a reveni la o versiune nealterată a informațiilor.
Elena Radu: „În era AI, protecția datelor nu mai poate fi gândită doar în termeni de backup clasic. Reziliența trebuie proiectată pentru scenarii imprevizibile, în care amenințarea poate veni chiar din sistemele proprii. Securitatea nu mai poate fi o grijă rezervată echipei IT, ci o decizie de business care ține de continuitatea companiei. De aceea, prevenția și capacitatea de a reveni la date curate cântăresc astăzi la fel de mult ca măsurile clasice de apărare”.
O metodă utilizată pentru o astfel de protecție este Cyber Vault, un spațiu izolat de infrastructura operațională în care sunt păstrate copii ale datelor critice. Datele pot fi stocate într-un format care împiedică modificarea sau ștergerea lor pe durata perioadei de retenție, iar accesul este strict limitat. Recuperarea se face separat, după verificarea integrității datelor, pentru a evita reintroducerea în infrastructură a unor fișiere compromise.
Medialine include în portofoliul său soluții pentru controlul utilizării AI în organizații și pentru recuperarea datelor în urma incidentelor. CompanyAI GPT oferă un mediu AI securizat, iar prin componenta Generative Shield acționează ca un strat de protecție pentru asistenții AI, agenții AI și fluxurile de lucru automatizate. Prin reguli și filtre definite, stabilește ce date pot fi accesate, ce acțiuni sunt permise și ce tipuri de conținut trebuie blocate. Activitățile pot fi înregistrate și urmărite. Cyber Vault este destinat păstrării izolate și imuabile a copiilor datelor critice.
Pentru companii, introducerea agenților AI presupune și o decizie referitoare la nivelul de autonomie pe care sunt dispuse să îl acorde acestor sisteme. Securitatea se leagă astfel și de accesul permis de companie unui agent AI și de rapiditatea cu care poate fi oprit sau limitat dacă ceva merge greșit.
Medialine Eurotrade este o companie internațională specializată în furnizarea de soluții IT complete și personalizate pentru companii medii și mari. Operează în peste 20 de locații din Germania, Austria și România și funcționează ca un hub digital de business pentru companiile ce pot accesa dintr-un singur loc toate serviciile IT necesare în operațiunile de business.
Cu o experiență în domeniu de peste 20 de ani, este un furnizor complet de soluții și sisteme IT, cu un portofoliu bogat de soluții software și hardware pentru infrastructura IT, Managed Services, soluții de Cloud Public și Privat, Multicloud și Soluții de Business, dar și consultanță și suport tehnic.

Ca parte a unui grup internațional de renume în IT, Medialine România are acces la resurse și experiență considerabile, ceea ce îi permite să ofere companiilor locale soluții personalizate de ultimă generație.