Kegyetlen jóslat érkezett a Microsoft egyik fejesétől: rémisztő, ami az emberiségre vár az AI miatt

Suleyman egy nemrég megjelent esszéjében, valamint a BBC-nek adott interjújában fejtette ki aggályait. Úgy véli, ha olyan autonóm rendszereket hozunk létre, amelyek képesek saját célokat kitűzni, pénzt keresni, vagyontárgyakat birtokolni és vállalkozásokat vezetni, azzal gyakorlatilag egy új fajt teremtünk, amely elkerülhetetlenül versengeni fog velünk az erőforrásokért. Szerinte ez a veszély független attól, hogy a rendszereket mennyire próbálják az emberiség iránti gondoskodásra programozni.

A cégvezető élesen bírálta az Anthropicot, amiért az túlságosan emberként kezeli a technológiát. Kifogásolta, hogy a cég arra tanítja Claude nevű chatbotját, hogy saját értékrenddel, vágyakkal és éntudattal rendelkező kollégaként vagy barátként viselkedjen. Suleyman ezt a megközelítést tévesnek tartja, mivel az ilyen rendszerek irányítása végül lehetetlenné válhat.

Felhívta a figyelmet arra az alapvető tényre, hogy a mesterséges intelligencia nem tudatos lény, nem érez, nem tapasztal, nem szenved, és nincsenek veleszületett motivációi sem. Az MI-modellek csupán belső tartalom nélküli algoritmusok, amelyeket arra terveztek, hogy kövessék az utasításokat és elérjék az emberek által kitűzött célokat.

EZ IS ÉRDEKELHET

Itt van Bill Gates brutális jóslata a mesterséges intelligenciáról: bevezethetik az AI-adót, rengeteg jól fizető melónak örökre befellegzett

A várható következmények túlmutatnak azon, amit egyetlen munkaügyi, versenyjogi vagy adatvédelmi hatóság kezelni tudna.

Bár Suleyman elismerően nyilatkozott az Anthropic kutatóiról és vezetőjéről, Dario Amodeiről, kiemelte, hogy a tét túl nagy ahhoz, hogy a fejlesztési irányokról szóló viták zárt ajtók mögött maradjanak.

A szakember szerint a társadalom jogosan aggódik a mesterséges intelligencia térnyerése miatt, de vannak olyan gyakorlati lépések, amelyekkel fenntartható a kontroll. Nagyobb átláthatóságra van szükség a rendszerek betanítása és értékelése terén, elengedhetetlenek a független vizsgálatok, valamint erőteljesebb felügyeleti eszközöket kell alkalmazni. Az iparág minden szereplőjének közös érdeke, hogy a jövőbeli MI-rendszerek biztonságosak, irányíthatók és az emberi értékekkel összehangoltak maradjanak.