„Azt hittem, barátok vagyunk” : Kódolt megtévesztés, avagy a mesterséges intelligencia felhasználása a bűnelkövetésben = “I thought we were friends”... : Coded deception, or the use of artificial intelligence to commit crimes

Solt, Ágnes and Virág, György (2025) „Azt hittem, barátok vagyunk” : Kódolt megtévesztés, avagy a mesterséges intelligencia felhasználása a bűnelkövetésben = “I thought we were friends”... : Coded deception, or the use of artificial intelligence to commit crimes. KRIMINOLÓGIAI TANULMÁNYOK (2000-), 62. pp. 30-47. ISSN 1586-4596

Preview

Text 002_Solt-Virag.pdf - Published Version Download (468kB) | Preview

Abstract

A tanulmány az intézeti mesterséges intelligencia (MI) kutatás első fázisában szerzett tapasztalatokról ad számot. Jelzi az MI, és különösen a nagy nyelvi modelleket (LLM) használó keresőmotorok jelentőségét és veszélyeit a kriminalitás világában, elsősorban a bűnelkövetési célú felhasználás, ezen belül is az erőszakos bűncselekmények elkövetésében történő alkalmazás tekintetében. A szerzők ismertetik kísérleteik eredményeit, amelyek során – a mesterséges intelligenciát „félrevezetve” – sikerült részletes és strukturált válaszokat kapni súlyos bűncselekmények megtervezésére és sikeres végrehajtására vonatkozóan. Úgy tűnik – a folyamatos tesztelés, fejlesztés, „tanulás” ellenére – az LLM-rendszerek jelenleg korlátozottan alkalmasak arra, hogy kiszűrjék a jogellenes, károkozást segítő tartalmak akaratlan támogatását. Továbbá triviális ugyan, de mégis elgondolkodtató, hogy minden ismeret, információ, vagyis minden elérhető közlés, legyen az eredetileg „jó szándékú” (például bűnmegelőzési célú), éppúgy felhasználható „rossz célok” elérése érdekében is. | The study presents the experiences of the initial phase of the NIC’s artificial intelligence (AI) research. It highlights the importance and dangers of AI – in particular, search engines using large language models (LLM) – in the world of criminality, especially with regard to criminal use, primarily in committing a violent crime. The authors describe the results of their experiments, which, by ‘misleading’ AI, have succeeded in obtaining detailed and structured answers regarding the planning and successful execution of serious offences. It appears that, despite continuous testing, development and ‘learning’, LLM systems currently have a limited ability to filter out unwitting support for unlawful content that facilitates harm. Furthermore, it is trivial but nonetheless thought-provoking that all knowledge is information, i.e. all available communications, whether originally ‘well-intentioned’ (e.g. for crime prevention purposes) can be misused.

Actions (login required)

Edit Item