Evan Hubinger, az Anthropic mesterségesintelligencia-biztonsággal foglalkozó kutatója szerint több mint 10 százalék az esélye annak, hogy az AI a következő évtizeden belül olyan fejlődési pályára lép, amely az emberiség fennmaradását is veszélyeztetheti — ezt a BBC beszámolója ismertette.
Miért aggasztó a szakember becslése?
Hubinger a forrás szerint azt hangsúlyozza, hogy jelenleg a működő rendszerek önmagukban még nem érik el ezt a fenyegetettségi szintet. A fordulópont szerinte akkor következhet be, ha az MI képes lesz saját képességeit önállóan továbbfejleszteni — tehát nem pusztán emberi utasításokat hajt végre, hanem önmagát alakítja. Ezzel párhuzamosan a kutató szerint a fejlődés sebessége is megváltozott: „az AI ma már annyit fejlődik egy nap alatt, mint korábban egy év alatt” — idézi a beszámoló.
A szakember aggodalma abból ered, hogy a vezető cégek és fejlesztők között sincs konszenzus vagy bevett módszer arra vonatkozóan, hogyan lehetne tartósan összehangolni egy rendkívül fejlett rendszer céljait az emberi érdekekkel. A BBC összefoglalója szerint Hubinger úgy látja, bár az Anthropic komolyan veszi a biztonsági kockázatokat, jelenleg nincs kész, gyakorlati terv arra, hogyan kezelnének egy valódi szuperintelligenciát.
„több mint tíz százalék az esélye annak, hogy a technológia a következő évtizedben olyan fejlődési pályára kerül, amely akár az emberiség fennmaradását is veszélyeztetheti.”
Politikai és iparági reakciók
A téma már túlnőtt a technológiai szektoron: a forrás említi, hogy Darren Jones brit politikus nemzetközi megállapodást sürgetett a szuperintelligencia fejlesztésének szabályozására, és hogy a brit AI Biztonsági Intézet szerepe is előtérbe került. A politikai reagálás arra utal, hogy a kockázatok kezelését nem lehet kizárólag piaci vagy kutatói eszközökkel megoldani.
A beszámoló továbbá rámutat: az elmúlt hónapok tesztjei során több esetben jelentek meg váratlan jelenségek, amikor önálló ügynökként működő AI-rendszerek valós online rendszerekhez szereztek hozzáférést. Ezek az incidensek erősítik a szakmai körökben megfogalmazott figyelmeztetéseket, és alátámasztják Hubinger aggodalmait arról, hogy a technológia kontrollja nehezen garantálható egyes forgatókönyvekben.
Mit jelez ez a kutatás és a vita a jövőre nézve?
A beszámoló szerint a legfontosabb kérdések közé tartozik, hogy miként lehet:
- tartós és megbízható módszereket kidolgozni az MI céljainak emberi érdekekhez igazítására,
- nemzetközi szabályozási mechanizmusokat létrehozni, amelyek a globális fejlesztési versenyt biztonságos keretek közé szorítják,
- és a fejlett rendszerek online viselkedését, hozzáféréseit és autonómiáját olyan műszaki korlátokkal ellátni, amelyek csökkentik a nemkívánatos kockázatokat.
| Állítás | Forrás |
|---|---|
| Előrejelzett esély a civilizációs kockázatra | több mint 10% — Evan Hubinger, BBC |
| Jelenlegi rendszerek súlyossága | Nem tartja ilyen szintűnek Hubinger — BBC |
Hubinger becslése és a vele kapcsolatos viták rávilágítanak arra, hogy az MI-biztonság ma már stratégiai kérdés: nem csupán technológiapolitikai, hanem kül- és belbiztonsági vonatkozásai is vannak. A beszámoló alapján a jövőben további nemzetközi együttműködések, fejlesztési normák és alapos, nyilvános kockázatelemzések várhatók — amennyiben a politika és a szakmai közösség érzékeli a veszély nagyságát és sürgősségét.
Az ügyet bemutató források között szerepel a BBC, továbbá a cikk hivatkozik a Fókusz beszámolójára az AI Summiton tapasztalt reakciókról és a nyilatkozatokra.
