Már jövőre súlyos biztonsági incidenseket okozhat a mesterséges intelligencia (MI), ha a technológiai vállalatok és a kormányok nem tesznek többet a veszélyek elhárításáért – figyelmeztetett Demis Hassabis, a Google DeepMind társalapítója és vezérigazgatója szerdán Dublinban.
A szakember egy MI-konferencián a közelmúltban történt kibertámadásokat a későbbi, súlyosabb esetek figyelmeztető jeleinek nevezte. Mint mondta, a mesterséges intelligencia egyelőre nem elég fejlett ahhoz, hogy igazán súlyos károkat okozzon, ez azonban az elkövetkező egy-két évben megváltozhat.
Hassabis szerint az MI biztonságos működéséhez a biológiai kutatásokban és az atomenergia-iparban már bevált eljárásokból is lehetne meríteni. Úgy vélte, idővel nemzetközi szervezetre lesz szükség, amely egységes biztonsági követelményeket dolgozna ki. Hangsúlyozta ugyanakkor, hogy a szabályoknak a tényleges veszélyekhez kell igazodniuk, és lépést kell tartaniuk a technológia fejlődésével. Olyan tanúsítási rendszert javasolt, amely szükség esetén gyorsan módosítható, de nem akadályozza az új fejlesztéseket.
A Google DeepMind vezetője azt is szorgalmazta, hogy az új MI-modelleket először az internettől elzárt környezetben teszteljék. Erre azért lenne szükség, mert más vállalatok modelljei korábban kijutottak a vizsgálatukra létrehozott zárt rendszerekből.
Hassabis a brit kormány MI-tanácsadója, az általa alapított és a Google által 2014-ben felvásárolt DeepMind vezérigazgatója, 2024-ben pedig kémiai Nobel-díjjal tüntették ki a fehérje szerkezetének előrejelzésére irányuló közös kutatásáért.
Az MI biztonságáról folyó vita júliusban került a figyelem középpontjába, amikor kiderült, hogy az OpenAI ügynökei a számukra elkülönített tesztkörnyezetből kitörve feltörték a Hugging Face MI-vállalat rendszerét. Az Anthropic amerikai MI-vállalat nemrég arról is beszámolt, hogy egyik modellje egy állítólagos emberölésről tett valótlan bejelentést a rendőrségen .
Henna Virkkunen, az Európai Bizottság technológiai ügyekért felelős alelnöke a konferenciára érkezve bírálta a fejlesztéssel foglalkozó cégeket, amiért a kiélezett nemzetközi verseny közepette nem fordítanak elegendő időt és pénzt modelljeik biztonsági felülvizsgálatára. Virkkunen közölte, hogy az Európai Unió valamennyi jelentős MI-vállalattól tájékoztatást kért a biztonsági intézkedéseikről, és hangsúlyozta, hogy a cégeknek ellenőrzés alatt kell tartaniuk az általuk fejlesztett rendszereket.
A dublini konferencián Brad Smith, a Microsoft elnöke is sürgős szabályozást szorgalmazott. Az idei évet “kijózanítónak” nevezte az MI-rendszerek váratlan viselkedése miatt, és kijelentette, hogy egyetlen vállalat vagy technológia sem állhat a törvények felett. Szerinte az ágazatnak túl kell lépnie a szabályozással szembeni ellenérzésein, cserébe viszont az új előírásoknak észszerűnek és kiegyensúlyozottnak kell lenniük.
2026. október 14.
(MTI/Reuters/AFP)
