Az első nemzetközi mesterséges intelligencia biztonsági jelentés szerzője arra figyelmeztet, hogy az AI-ba történő, felügyelet nélküli, ellenőrizetlen beruházás veszélyes lehet.
A mesterséges intelligencia (MI) fölényéért folytatott fegyverkezési verseny, amelyet a DeepSeek kínai chatbot miatti pánik váltott ki, az AI egyik „keresztapja” szerint a szuper-intelligencia egzisztenciális veszélyeinek felerősödését kockáztatja.
Yoshua Bengio, a gépi tanulás kanadai úttörője, a jövő héten Párizsban megrendezendő nemzetközi AI-csúcstalálkozón bemutatandó első nemzetközi AI-biztonsági jelentés szerzője arra figyelmeztet, hogy a mesterséges intelligencia számára a számítási teljesítménybe való, felügyelet nélküli, ellenőrizetlen beruházás veszélyes.
„Az erőfeszítések inkább arra irányulnak, hogy ki fogja megnyerni a versenyt, ahelyett, hogy hogyan tudjuk biztosítani, hogy ne építsünk olyasmit, ami az arcunkba robban” – magyarázta.
Arra figyelmeztet, hogy a katonai és gazdasági verseny „az etika, a felelősség és a biztonság terén történő megszorításokhoz vezet, s ez elkerülhetetlen”.
A szakember a neurális hálózatokon és a gépi tanuláson dolgozott, vagyis a modern mesterséges intelligenciamodellek alapjául szolgáló szoftverarchitektúrán.
Bengio Londonban más mesterséges intelligencia úttörőkkel együtt átveszi a Queen Elizabeth Prize for Engineering díjat (QEPrize), a legrangosabb globális mérnöki elismerést, amellyel az AI-ban rejlő lehetőségek feltáróit ismerik el.
A tudós lelkesedik az AI-társadalom számára jelentkező előnyeiért, de a Donald Trump és a Fehér Ház által az AI szabályozásától való elfordulás és a nagy technológiai cégek között a még erősebb AI-modellekért folytatott eszeveszett verseny szerinte aggasztó elmozdulást jelent.
„Egyre erősebb rendszereket építünk, amelyek bizonyos dimenziókban emberfelettivé válnak” – mondja. „Ahogy ezek a rendszerek egyre erősebbek, gazdaságilag is rendkívül értékesek lesznek. A rengeteg pénz keresésének lehetősége sok embert motivál. És persze, ha az ember termékeket akar eladni, nem akar beszélni a kockázatokról.”
De nem minden mesterséges intelligencia-szakértő aggódik ennyire. Yann LeCun, a Meta vezető mesterséges intelligencia-kutatója – aki szintén Londonban van, hogy részt vegyen a QEPrize díjátadón – így vélekedik:
„Azzal áltattak minket, hogy a nagy nyelvi modellek intelligensek, de valójában nem azok. Nincsenek olyan gépeink, amelyek olyan okosak, mint egy például házimacska, ami a fizikai világ megértését illeti.”
Ugyanakkor LeCun előrejelzése szerint három-öt éven belül az AI az emberi intelligencia bizonyos aspektusait fogja képviselni. Például robotok, amelyek képesek olyan feladatokat elvégezni, amelyekre nem programozták be őket, vagy nem képezték ki őket.
„Ha az USA úgy dönt, hogy geopolitikai vagy kereskedelmi okokból elzárkózik a mesterséges intelligencia elől, akkor az innováció valahol máshol lesz a világon. A DeepSeek megmutatta ezt” – emelte ki.
A Queen Elizabeth Prize for Engineering díjat minden évben olyan mérnököknek ítélik oda, akiknek felfedezései a legnagyobb hatással vannak vagy ígérik, hogy a legnagyobb hatással lesznek a világra.
A korábbi díjazottak közé tartoznak a napelemek fotovoltaikus celláinak, a szélturbina-technológiának, valamint a merevlemezekben és az elektromos motorokban található neodímium mágneseknek az úttörői.
Lord Vallance tudományos miniszter, a QEPrize alapítvány elnöke azt mondja, hogy éberen figyelnek a mesterséges intelligencia lehetséges kockázataira.
„Az olyan szervezetek, mint az új AI Safety Institute (AI Safety Institute) az Egyesült Királyságban, arra hivatottak, hogy előre lássák és megelőzzék az AI emberhez hasonló intelligenciával járó lehetséges károkat.”
Kevésbé aggódik azonban amiatt, hogy egy nemzet vagy vállalat monopolhelyzetbe kerül a mesterséges intelligencia területén.
„Azt hiszem, az elmúlt hetekben azt láttuk, sokkal valószínűbb, hogy számos vállalat lesz jelen ezen a területen, és az egypontos dominancia gondolata elég valószínűtlen” – mondja.
Sky News
Fotók: archívum