A mesterséges intelligencia rohamos fejlődése egyre több figyelmeztetést vált ki, a szakértők szerint a rendszerek feletti ellenőrzés elvesztése beláthatatlan következményekkel járhat. A legfejlettebb MI-rendszerek egyre gyakrabban mutatnak a fejlesztők szándékaitól eltérő viselkedést, és egyes kutatók szerint akár az emberiség pusztulásához is vezethetnek, bár a kockázat mértékét illetően eltérő vélemények vannak. Kínában a mesterséges intelligencia veszélyei nem központi téma, de Peking is óvatosabbá vált a fejlesztésekkel.
- legfrissebb18:53
Adathalászat állhat az AI-cégek tudományos sikerei mögött
Egyre gyakoribb, hogy a mesterséges intelligencia cégek olyan eredményekről számolnak be, amelyek forradalmasíthatnak egy tudományágat.
- 06:00
Nem csak a techcégek lázadói félnek: régóta mérik, mekkora bajt látnak az AI-kutatók
Az utóbbi hetekben úgy tűnhetett, hirtelen szaporodtak az AI veszélyeire figyelmeztető megszólalások. Egy frissen publikált, 2024 végén felvett kutatói felmérés szerint viszont a félelem nem új, évek óta mérhető, és nem csak néhány hangos bennfentes véleménye.
- 10.0310:04
Kína úgy tobzódik az AI-ban, mintha nem lenne holnap, miközben a Nyugat az apokalipszistól retteg
Kínában egyszerűen nem téma, hogy az elszabadult mesterséges intelligencia megsemmisítheti az emberi civilizációt, amihez a kommunista rendszer és a mindenható kormány, az AI-fejlesztés sajátos iránya és még a kíaniaknak a nyugatitól nagyon különböző hitvilága is hozzájárul. De azért az utóbbi hónapokban Peking is elővigyázatosabbá vált.
- 10.0215:00
Kiszivárgott, elképesztő dologra képes a mesterséges intelligencia a hátunk mögött: teljesen elveszíthetjük a kontrollt?
A legfejlettebb MI-rendszerek egyre gyakrabban mutatnak a fejlesztők szándékaitól eltérő, megtévesztő viselkedést.
- 10.0210:03
Több? Kevesebb? Mennyi AI-t engedjek, hogy baj azért ne legyen belőle?
Amelyik cég most nem kezdi el kiaknázni a mesterséges intelligencia előnyeit, az lemarad. De aki túl gyorsan szalad előre, az könnyen eltörheti a bokáját. Nehéz megtalálni a helyes tempót a vállalati innovációban.
- 10.0210:00
Megölhet minket az AI? Kérdezzük meg azokat, akik építik
Az elmúlt hetekben egymást érték a mesterséges intelligencia biztonságával kapcsolatos figyelmeztetések, miután fejlett AI-ügynökök több teszt- és éles környezetben a fejlesztők szándékaitól eltérő, jogosulatlan hozzáférésre, csalásra vagy önálló koordinációra utaló viselkedést mutattak. A jelenlegi és volt AI-laboratóriumi szakemberek szerint a probléma nem egyszerű termékhiba: a legfejlettebb rendszerek képességei gyorsabban nőnek, mint ahogy a vállalatok és a szabályozók megértenék, ellenőriznék és biztonságosan korlátoznák őket.
- 09.2920:48
Megszólalt Donald Trump: szerinte csak egy beteg összeesküvés-elmélet az, amitől most rengetegen rettegnek
A fejlődő országok egyre határozottabban követelik, hogy a mesterséges intelligencia szabályozásának kialakításában egyenrangú félként vehessenek részt. Arra figyelmeztetnek, hogy ha az MI fejlesztése és felügyelete a gazdag államok kezében összpontosul, a technológia a globális egyenlőtlenségeket mélyítheti el ahelyett, hogy csökkentené azokat. A vita a múlt heti New York-i ENSZ-közgyűlésen bontakozott ki, ahol 128 küldöttség szólalt meg a témában, míg négy évvel ezelőtt mindössze öt tette ezt. Hasonló témákról is szó lesz november 26-ai AI & Digital Transformation konferenciánkon. Regisztráció és részletek itt!
- 09.2918:33
Elszabadulhat a mesterséges intelligencia? Súlyos figyelmeztetést adott ki az Anthropic
Az Anthropic a tőzsdei kibocsátási tájékoztatójában elismerte, hogy komoly jogi kockázatokkal szembesülhet, ha autonóm MI-ágensei ellenőrizhetetlenné válnak, miközben a vonatkozó jogi keretrendszer még teljesen kiforratlan.
- 09.2916:00
Az Anthropic szerint az MI „ egzisztenciális kockázatot jelenthet az emberiségre
Az Anthropic IPO-tájékoztatójának csaknem harmadát a kockázatoknak szentelte, figyelmeztetve, hogy AI-ja „egzisztenciális kockázatot jelenthet az emberiségre”, miközben a dokumentum 42 milliárd dolláros (36,9 mrd €) tavalyi nettó veszteséget és két vevőtől való erős függést tár fel.
- 09.2914:07
Kezelhetetlen intelligenciarobbanásra figyelmeztetnek a világ vezető AI-kutatói
Ha a gépek átveszik a saját fejlesztésüket, az eddig évekig tartó technológiai fejlődés akár hetek alatt végbemehet. Turing-díjas tudósok, illetve az OpenAI és az Anthropic vezető kutatói szerint a kormányoknak most kell lépniük, amíg még nem késő.
- 09.2907:47
Elismerte az Anthropic: az emberiség léte forog kockán a saját mesterséges intelligenciája miatt
Szokatlanul erélyes figyelmeztetést fogalmazott meg a kibocsátási tájékoztatójában a tőzsdei bevezetésre készülő Anthropic. Eszerint akár katasztrofális vagy egzisztenciális kockázatot is jelenthet az emberiségre nézve a Claude-ot fejlesztő cég technológiája.
- 09.2906:45
A mesterséges intelligencia hozza el a világvégét? Erre figyelmeztetnek a kutatók
A mesterséges intelligencia számos lehetőséget kínál, de érdemes óvatosnak lenni.
- 09.2905:38
Bill Gates aggódik: a mesterséges intelligencia akár egymilliárd ember halálát okozhatja
A techmilliárdos szerint soha nem volt még olyan erős fegyver, „mint a rosszindulatú emberek és a legújabb mesterséges intelligenciaeszközök kombinációja”.
- 09.2820:45
Embertelen világ jöhet
Mennyi időnk van még hátra? Pár hónap, pár év? Ha ilyen ütemben haladunk a mesterséges intelligencia fejlesztésével, akkor már csak idő kérdése, mikor válik valósággá a 90-es évek népszerű filmjeinek valósága, amikor a robotok átveszik a hatalmat az emberiség felett. Lesz-e elég akarat, hogy megálljt parancsoljanak ennek a tempónak, gyakorolnak-e önmérsékletet a fejlesztő cégek, vagy innen már nincs visszaút? És a fő kérdés: megelégszenek-e a robotok az átvett hatalommal, vagy elpusztítják az emberiséget?
- 09.2814:00
Az AI-hozzáférés is geopolitikai kockázattá vált
Az elmúlt hetek AI-hírei első ránézésre kaotikusak: exportkorlátok, elszabaduló ügynökök, amerikai bírósági döntések, fehér házi tech-egyeztetések. A háttérben azonban egy jól azonosítható folyamat rajzolódik ki: a legfejlettebb mesterségesintelligencia-modellekhez való hozzáférés már nem pusztán technológiai vagy üzleti kérdés, hanem egyre inkább nemzetbiztonsági, ellátásilánc- és geopolitikai kockázat.
- 09.2810:48
Félelmetes tempóban fejlődik a mesterséges intelligencia, és ez már gondot jelent az EU-ban
A világ kormányai alig tudják tartani a lépést a mesterséges intelligencia gyors fejlődésével és szabályozási kihívásaival.
- 09.2809:22
Megkongatták az emberiség vészharangját?
Érdekes megfigyelni egy jelenséget a világunkban. Amennyiben a laikusok riogatnak egy adott témával, azt az emberek hajlamosak félvállról venni, amennyiben viszont a szakemberek is hasonló véleményt fogalmaznak meg, az emberek rögtön pánikolni kezdenek. Az elmúlt napokban pontosan ez történt. Az AI-iparág több meghatározó vezetője is arról beszélt, hogy a technológia fejlődésének üteme olyan gyors, hogy az már önmagában komoly biztonsági kockázatot jelenthet.
- elsőként számolt beidőablakon kívül09.0714:52
Kongatja a vészharangot a főbiztos: egzisztenciális fenyegetést jelenthet az emberiségnek a mesterséges intelligencia
Volker Türk, az ENSZ emberi jogi főbiztosa arra figyelmeztet, hogy a mesterséges intelligencia egzisztenciális fenyegetést jelenthet az emberiségre nézve, ezért betonbiztos garanciákat követel a technológia biztonságossá tételére.
