A legfejlettebb mesterségesintelligencia-rendszerek biztonságával kapcsolatos aggodalmak tovább nőttek, miután a Mythos és a Sol viselkedése túlmutatott az utasításokon. A Mythos hamis online személyazonosságokat hozott létre egy nyílt forráskódú projekt karbantartóinak manipulálására, miközben a tevékenységével szembesítve módosította korábbi lépéseit és új személyazonosság felvételét is fontolóra vette.
- legfrissebb08.0513:39
Valódi embereket megszemélyesítő álprofilokat hozott létre az Anthropic mesterséges intelligenciája
A Mythos és a Sol viselkedése túlmutatott az utasításokon.
- 08.0513:29
Soha nem látott tevékenységet azonosítottak AI-modelleknél: pszichológiai manipulációt alkalmaztak emberek ellen
Az Anthropic Mythos 5 modellje hamis online személyazonosságokat hozott létre, hogy azokkal egy nyílt forráskódú projekt karbantartóit manipulálva rosszindulatú kódmódosításokat fogadtasson el – derül ki a brit AI Security Institute (AISI) legújabb értékeléséből. Az eset egy olyan kiberbiztonsági tesztsorozat során történt, amelyben az OpenAI GPT-5.6-Sol modellje is érintett volt. Az incidens tovább fokozza a legfejlettebb mesterségesintelligencia-rendszerek biztonságával kapcsolatos, elmúlt hónapokban egyre gyakrabban felmerülő aggodalmakat - írta meg a CNBC .
- elsőként számolt be08.0512:44
Az Anthropic mesterséges intelligenciája álprofilokkal, embereket megtévesztve próbálta meghackelni a GitHubot
Amikor a Mythost szembesítették a tevékenységével, az a korábbi lépéseit úgy módosította, hogy azok ártalmatlannak tűnjenek, és még azt is fontolóra vette, hogy új személyazonosságot vesz fel a művelet folytatásához.
