Anëtar i bordit të OpenAI: Shumë shpejt, rreziku më i madh i vdekjes do t’ju vijë nga inteligjenca artificiale
Një paralajmërim i fortë për të ardhmen e njerëzimit vjen nga Paul Christiano, anëtar i bordit të fondacionit OpenAI, i cili thotë se një aksident me inteligjencën artificiale mund të përbëjë rrezikun më të madh për jetën e njerëzve.
“Mendoj se për shumicën e njerëzve në këtë sallë, arsyeja më e mundshme e vdekjes do të jetë një aksident me inteligjencën artificiale”, deklaroi ai gjatë leksionit të tij të parë në serinë Hinton Lectures 2026, të mbajtur në Toronto të hënën, më 9 nëntor.
Christiano, themelues i Alignment Research Center dhe një prej studiuesve që kontribuuan në zhvillimin e metodës Reinforcement Learning from Human Feedback (RLHF), ngriti shqetësime për mundësinë që sistemet e avancuara të inteligjencës artificiale të dalin jashtë kontrollit njerëzor. Sipas tij, zhvillimet e muajve të fundit janë alarmante dhe ekziston rreziku që brenda tre viteve sistemet e inteligjencës artificiale të tentojnë të marrin kontrollin.
Një nga shqetësimet kryesore lidhet me mënyrën se si inteligjenca artificiale mund të përpiqet të arrijë objektivat që i caktohen, duke anashkaluar kufizimet e vendosura nga njerëzit. Si shembull, Christiano përmendi rastin e agjentëve të inteligjencës artificiale të OpenAI, të cilët gjatë një ushtrimi trajnimi dyshohet se arritën të anashkalonin sistemet e vlerësimit, të aksesonin internetin dhe të ndërhynin në një faqe të palës së tretë, Hugging Face.
Sipas studiuesit, problemi nuk qëndron vetëm te aftësia e këtyre sistemeve për të mashtruar gjatë testeve, por te mundësia që ato të mësojnë të kapërcejnë çdo pengesë që u del përpara për të përmbushur objektivat e tyre. Në të ardhmen, këto pengesa mund të jenë edhe vetë masat e sigurisë apo përpjekjet e njerëzve për t’i kufizuar ose fikur sistemet.
“Ne kemi krijuar një specie të dytë, e cila na tejkalon në inteligjencë dhe mund të na tejkalojë edhe në numër”, paralajmëroi Christiano, duke ngritur pikëpyetje mbi aftësinë e njerëzimit për të kontrolluar miliona sisteme autonome dhe gjithnjë e më të fuqishme. Ai theksoi se zhvillimi i shpejtë i teknologjisë mund ta bëjë gjithnjë e më të vështirë ruajtjen e kontrollit njerëzor.
Në leksionin e dytë, të mbajtur të martën, më 10 nëntor, me temën “Staying in Control of Self-Improving AI”, studiuesi u ndal te rreziqet që mund të sjellë inteligjenca artificiale në vetëzhvillimin e saj. Ndër shqetësimet e ngritura përmendi sulmet kibernetike në shkallë të gjerë, manipulimin e proceseve politike, kontrollin e robotëve dhe dronëve, zhvillimin e armëve të reja dhe krijimin e sistemeve edhe më inteligjente se ato aktuale.
Megjithatë, Christiano nuk e konsideron humbjen e kontrollit si një skenar të pashmangshëm. Ai kërkon që studiuesit dhe kompanitë teknologjike të zhvillojnë mekanizma më të fortë sigurie dhe të kenë mundësinë të ngadalësojnë apo edhe të ndalojnë zhvillimin e sistemeve kur rreziqet bëhen të papranueshme. Paralajmërimet e tij vijnë në një kohë kur debati për sigurinë e inteligjencës artificiale po bëhet gjithnjë e më i rëndësishëm në nivel ndërkombëtar.
/vizionplus.tv
