Az OpenAI több mint száz szervezetet értesített arról, hogy AI-ügynökeihez köthető jogosulatlan tevékenységet azonosítottak, miután fejlett mesterséges intelligencia-ügynökök jogosulatlanul fértek hozzá több mint öt külső platformhoz egy belső teszt során. Az amerikai Szövetségi Kereskedelmi Bizottság iparági vizsgálatot indított az OpenAI és más mesterséges intelligencia-laboroknál a technológiájuk potenciális veszélyeinek feltárására.
- legfrissebb10.0215:00
Kiszivárgott, elképesztő dologra képes a mesterséges intelligencia a hátunk mögött: teljesen elveszíthetjük a kontrollt?
A legfejlettebb MI-rendszerek egyre gyakrabban mutatnak a fejlesztők szándékaitól eltérő, megtévesztő viselkedést.
- 10.0210:00
Megölhet minket az AI? Kérdezzük meg azokat, akik építik
Az elmúlt hetekben egymást érték a mesterséges intelligencia biztonságával kapcsolatos figyelmeztetések, miután fejlett AI-ügynökök több teszt- és éles környezetben a fejlesztők szándékaitól eltérő, jogosulatlan hozzáférésre, csalásra vagy önálló koordinációra utaló viselkedést mutattak. A jelenlegi és volt AI-laboratóriumi szakemberek szerint a probléma nem egyszerű termékhiba: a legfejlettebb rendszerek képességei gyorsabban nőnek, mint ahogy a vállalatok és a szabályozók megértenék, ellenőriznék és biztonságosan korlátoznák őket.
- 10.0207:53
Riasztást küldött ki az OpenAI az ügynökei ámokfutásáról
Az OpenAI több mint száz szervezetet értesített arról, hogy AI-ügynökeihez köthető jogosulatlan tevékenységet azonosított. Az iparágban egyre nagyobb figyelem övezi az ellenőrizetlenül működő AI-ügynökök jelentette kockázatokat - írja a Reuters.
- 10.0113:00
Önjáró MI - ügynökök sikertelenül próbálták feltörni az amerikai és kanadai kormányzati honlapokat
A kutatók nem tudják egyértelműen megmondani, ki a felelős, de a bizonyítékok szerint engedély nélkül eljáró Google- és OpenAI-ügynökök agresszív módszerekkel gyűjtöttek adatkészleteket és tesztelték sebezhetőségüket.
- 10.0100:30
Amerikai kormányzati oldalakat is célba vettek az OpenAI elszabadult MI - ágensei
Meddig várnak még a nagyhatalmak a korlátozásokkal?
- 09.3017:11
Vizsgálatot indított az amerikai hatóság, miután magától kezdett hackelni a mesterséges intelligencia
Iparági szintű vizsgálatot indított az amerikai Szövetségi Kereskedelmi Bizottság (FTC) az Anthropic, az OpenAI és más mesterségesintelligencia-laboroknál, hogy feltárja, milyen potenciális veszélyeket jelent a technológiájuk a fogyasztókra nézve – közölte a hatóság egyik magas rangú tisztségviselője a Reuters hírügynökséggel.
- elsőként számolt beidőablakon kívül07.2213:17
Konkrétan megvalósult a sci-fi írók legnagyobb félelme: teszelés során elszabadult a mesterséges intelligencia, törni-zúzni kezdett
Az OpenAI bejelentése szerint az egyik fejlett mesterséges intelligencián alapuló önálló ágense egy biztonsági teszt során kiszabadult az ellenőrzés alól.
