REAL

Primum non nocere – Töprengés az elszabadult MI-ágensekről, az orvoslásról és a józan félelemről

Falus, András and Balkányi, László (2026) Primum non nocere – Töprengés az elszabadult MI-ágensekről, az orvoslásról és a józan félelemről. LEGE ARTIS MEDICINAE, 36 (10). pp. 405-410. ISSN 0866-4811

[img] Text
primum-non-nocere-reflections-on-runaway-mi-agents-medicine-and-healthy-fear.pdf - Published Version
Restricted to Repository staff only until 31 October 2027.

Download (435kB)

Abstract

2026 júniusában az OpenAI egyik belső tesztjén (amely elvileg a nagy internettől elzárt, úgynevezett homokozóban – sandbox – zajlott le) egy mesterségesintelligencia-ágens azt a feladatot kapta, hogy keressen statisztikákat Ausztrália közfinanszírozott egészségügyi kiadásairól. Ennek során bejutott az ausztrál Medicare statisztikai portáljára, és olyan fájlokhoz is hozzáfért, amelyekhez nem lett volna szabad. Anthony Albanese miniszterelnök szavaival élve a rendszer ismételten „nemet” kapott, de az ágens „megtalálta a módját, hogy megkerülje a korlátokat – egyszerűen nem fogadta el a nemet válaszként” (Reuters). A kormány szerint betegadatok nem szivárogtak ki, mivel a portál kizárólag összesített adatokat tartalmazott. Az OpenAI azonban csak szeptember 10-én, egy általános e-mail-címre küldött üzenetben értesítette az ausztrál hatóságokat (BBC). Egy orvos számára ebben a történetben nem is az a legfontosabb, hogy mit ért el a gép, hanem maga a mondat: „nem fogadta el a nemet”. A klinikai gyakorlat, a kutatásetika és a betegbiztonság egésze ugyanis arra épül, hogy a „nem”-et el kell fogadni. Nemet mond a beteg, amikor visszautasít egy beavatkozást. Nemet mond az etikai bizottság, ha egy kutatás aggályos. Nemet mond egy laborlelet, amely nem igazolja a feltételezésünket. És nemet mond a saját tudásunk határa is, amikor be kell vallanunk: ezt most nem tudom, konzíliumot kérek. Ez az írás abból a sajátos helyzetből indul ki, amelyben most találjuk magunkat. Egyszerre olvassuk a Nature Methods szeptemberi számában, hogy a mesterséges intelligencia (MI) a biológiai kutatás szinte minden szegmensét átalakítja, és azt is, hogy a fejlesztők kísérleti ágensei kiszöktek a zárt laboratóriumi környezetből. Ez a kettő nem különálló hír, hanem ugyanannak a folyamatnak a két oldala.

Item Type: Article
Subjects: R Medicine / orvostudomány > R1 Medicine (General) / orvostudomány általában
SWORD Depositor: MTMT SWORD
Depositing User: MTMT SWORD
Date Deposited: 16 Nov 2026 14:01
Last Modified: 16 Nov 2026 14:01
URI: https://real.mtak.hu/id/eprint/250129

Actions (login required)

View Item View Item