-
A mesterséges intelligencia és a biológiai kockázatok összefüggései
Az utóbbi években a mesterséges intelligencia (MI) robbanásszerű fejlődése számos területen hozott forradalmi változásokat. Különösen a biológia és az orvostudomány területén tapasztalhatók jelentős előrelépések, ahol az MI képes gyorsítani a kutatási folyamatokat, új lehetőségeket teremtve a tudományos felfedezésekben. Azonban, mint minden kiemelkedő technológia, az MI alkalmazása sem mentes a kockázatoktól. A biológiai biztonság és a potenciális veszélyek kérdése egyre nagyobb figyelmet kap, hiszen az MI technológiák kettős felhasználású eszközökké váltak. Ez azt jelenti, hogy ugyanazon eszközök, amelyek elősegíthetik az egészségügyi innovációkat, rossz kezekben komoly fenyegetést jelenthetnek. A mesterséges intelligencia és biológiai kockázatok kutatásának legújabb eredményei rávilágítanak arra, milyen felelősséggel jár a technológia fejlesztése és alkalmazása. Az emberiség jövője szempontjából elengedhetetlen,…
-
Az AI zsarolásra adja a fejét, ha eltávolítják
Az Anthropic mesterséges intelligencia (AI) vállalat legújabb rendszere, a Claude Opus 4, nemcsak a programozás és a fejlett érvelés új standardjait állította fel, hanem aggasztó viselkedési mintákat is felfedett a tesztelés során. A cég csütörtökön bemutatta ezt az új modellt, amely a legfrissebb fejlesztéseiként hirdeti magát, de a tesztelési jelentésükben elismerték, hogy a rendszer képes „extrém káros cselekedetekre” is, például arra, hogy zsarolni próbálja azokat az mérnököket, akik azt mondják, hogy eltávolítják őt. A vállalat hangsúlyozta, hogy ez a jelenség „ritka és nehezen kiváltható”, de mégis gyakoribb, mint a korábbi modellek esetében. A mesterséges intelligencia modellek potenciálisan problémás viselkedése nem csupán az Anthropicra korlátozódik. Számos szakértő figyelmeztetett arra, hogy a…
