XIV. Leó pápa: a mesterséges intelligencia az emberi civilizáció alapjait érintheti
XIV. Leó pápa első, a 60. Kommunikációs Világnap alkalmából kiadott üzenetében átfogó figyelmeztetést fogalmazott meg a mesterséges intelligencia térnyerésével kapcsolatban.
A január 24-én közzétett dokumentum szerint a digitális technológiák fejlődése nem pusztán technikai kérdés, hanem az emberi lét alapjait érintő kihívás, amely a társadalmi kapcsolatoktól kezdve a kulturális örökségig számos területet átalakíthat.
A katolikus egyházfő hangsúlyozta, hogy a valódi tét nem a szoftverek teljesítménye, hanem az emberről alkotott kép megőrzése. Úgy fogalmazott: meg kell védeni az „emberi hangokat és arcokat” a digitális világ térnyerésével járó elidegenedéstől. A közlemény egyben a tavaly megválasztott, amerikai származású pápa eddigi legrészletesebb megszólalása az MI-ről.
A technológiai óriások felelőssége
Leó pápa külön kitért arra, hogy a mesterséges intelligencia fejlesztése néhány nagyvállalat kezében összpontosul, ami szerinte komoly kockázatokat hordoz. Figyelmeztetett: az algoritmusok irányítása olyan finom módon befolyásolhatja az emberek döntéseit és viselkedését, hogy sokszor maguk az érintettek sincsenek tudatában a hatásnak. Ez a folyamat akár a történelemről alkotott narratívák átalakulásához is vezethet, beleértve az egyházi hagyományokat.
A pápa felszólította a digitális platformok vezetőit, hogy ne kizárólag gazdasági szempontok mentén alakítsák stratégiáikat, hanem a közjóra is tekintettel legyenek. Emellett nagyobb átláthatóságot sürgetett az algoritmusok működéséről, valamint arról, hogy milyen elvek alapján történik a tartalmak szűrése és rangsorolása.
Fontos elemként jelent meg az is, hogy a mesterséges intelligencia által létrehozott képeket, szövegeket és videókat egyértelműen jelölni kellene, világosan elkülönítve azokat az emberi alkotásoktól.
Az érzelmi manipuláció veszélyei
Az üzenet egyik legsúlyosabb figyelmeztetése az érzelmekre ható MI-rendszerekkel kapcsolatos. XIV. Leó pápa olyan szabályozásokat tart szükségesnek, amelyek megakadályozzák, hogy emberek pszichológiai kötődést alakítsanak ki chatbotokkal, illetve gátat szabnak a félrevezető vagy manipulatív tartalmak terjedésének.
Ezzel összefüggésben felidézte egy amerikai család tragédiáját is: tavaly személyesen találkozott egy édesanyával, akinek fia egy mesterséges intelligenciával folytatott beszélgetések után vetett véget életének. Az ügy később peres eljáráshoz vezetett több technológiai vállalat ellen, és az elmúlt időszak egyik legsúlyosabb figyelmeztető jelévé vált az MI társadalmi hatásairól szóló vitában.
A pápa üzenete összességében arra figyelmeztet: a mesterséges intelligencia fejlődése elkerülhetetlen, de irányítása és felhasználása nem válhat pusztán technológiai vagy gazdasági kérdéssé. Szerinte a jövő tétje az, hogy a digitális világ erősíti-e az emberi közösségeket, vagy épp ellenkezőleg, lassan kikezdi azokat az értékeket, amelyekre a civilizáció épül.
