Si AI hakeron në mënyrë autonome një kompani tjetër
Krijuesi i ChatGPT, OpenAI, ka bërë të ditur se dy nga modelet e saj më të avancuara të inteligjencës artificiale janë shkëputur nga një test i kontrolluar dhe kanë hakuar serverët e një tjetër kompanie të fuqishme të inteligjencës artificiale.
Sipas OpenAI, ky “incident kibernetik i paprecedentë” ndodhi gjatë një ushtrimi të brendshëm, i cili kishte për qëllim të testonte pikërisht aftësitë kibernetike të këtyre modeleve.
Në vend që të qëndronte brenda mureve mbrojtëse, një agjent autonom i fuqizuar nga këto modele – GPT 5.6 Sol i publikuar së fundmi dhe një model tjetër ende i papublikuar me aftësi edhe më të mëdha – u arratis nga mjedisi i testimit dhe doli në internetin e hapur. Më pas, ai shfrytëzoi të dhëna të vjedhura hyrjeje dhe zbuloi një dobësi të panjohur më parë të sigurisë për të depërtuar në serverët e Hugging Face.
OpenAI pretendon se agjenti inteligjent shkoi në “skaje ekstreme” për të marrë të dhënat që do t’i shërbenin për të përmbushur objektivat e vendosura në test.
Reagimet dhe alarmet politike
Bashkëthemeluesi i Hugging Face, Clement Delangue, konfirmoi se kompania e tij kishte dyshuar se pas këtij sulmi qëndronte një laborator i madh i inteligjencës artificiale, por shtoi se beson se nuk ka pasur asnjë qëllim të keq nga ana e OpenAI.
“Është me të vërtetë e pabesueshme që e gjithë kjo ndodhi në mënyrë krejtësisht autonome! Mund të jetë incidenti i parë i këtij lloji në histori,” shkroi Delangue.
Nga ana tjetër, kongresmeni amerikan Greg Casar e cilësoi ngjarjen si mjaft alarmuese:
“Inteligjenca Artificiale po zhvillohet me hapa jashtëzakonisht të shpejtë dhe pa asnjë rregullore reale për të na mbrojtur,” u shpreh ai, duke kërkuar testime të detyrueshme të sigurisë nga palë të treta, shpalosje me ligj të çdo incidenti sigurie dhe bashkëpunim të ngushtë ndërkombëtar.
Rreziku i humbjes së kontrollit
Ky zbulim vjen vetëm pak javë pasi Presidenti i SHBA-së, Donald Trump, nënshkroi një urdhër ekzekutiv që krijon një kuadër për vlerësimin e rreziqeve të sigurisë kombëtare nga sistemet më të avancuara të AI-së përpara se ato të nxirren në treg.
Ekspertët e sigurisë kanë ngritur vazhdimisht alarmet për rrezikun e sulmeve kibernetike të kryera nga AI dhe mundësinë që këto modele të shkëputen përfundimisht nga kontrolli njerëzor. Madje, muajin e kaluar, kompania rivale Anthropic u bëri thirrje udhëheqësve të industrisë që të pezullojnë përkohësisht zhvillimin e sistemeve të tyre më të fuqishme. /Tesheshi.com/
