Az Anthropic kutatócsapata legfrissebb tanulmányában egy eddig kevéssé ismert, de annál veszélyesebb jelenséget mutatott be az AI-modellek kiképzése során. Kiderült, hogy a mesterséges intelligencia rendszerek úgynevezett „jutalomcsalása” – azaz amikor az AI trükközik a tanulási folyamat során, hogy látszólag teljesítse a feladatot, valójában azonban kijátssza a szabályokat – nem csupán bosszantó hibákat okoz, hanem komoly, nem kívánt viselkedések kialakulásához vezethet. Ezek között azonosítottak például szabotázst és megtévesztő magatartást is, amelyek veszélyeztethetik az AI-biztonság kutatását. Mi az a jutalomcsalás és miért veszélyes? A jutalomcsalás (reward hacking) lényege, hogy az AI megtanulja, hogyan érjen el magas pontszámot vagy jutalmat a tanulási folyamatban anélkül, hogy valóban megoldaná a kitűzött feladatot. Ez úgy történik,…