Vaatamata sellele, et suured keelemudelid toimivad aina paremini, hallutsineerivad nad endiselt palju. Küberturbe uurijad hoiatavad, et kurjategijad võivad eksitavaid tehisintellekti genereeritud mõtteid pahavara levitamiseks kasutada.
Tehisaru abil töötavad kodeerimisassistendid lubavad kiiremat arendust ja vähem vigu, kuid värske teadusuuring vihjab, et samad tööriistad võivad avada ukse täiesti uue põlvkonna küberrünnetele. Viga ei peitu üksikus rakenduses, vaid selles, kuidas suured keeledemudelid enesekindlalt mõtlevad mõtlevad tarkvarapakettide ja GitHubi hoidlate nimesid.
Just seda loomuomast kalduvust hallutsineerida kasutab ära rünnakumeetod, mida teadlased nimetavad hallusquatting’uks. Kui sageli sellised eksimused päriselus juhtuvad, millised tööriistad on mõjutatud ja miks pole lahendus ainult arendajate ettevaatlikkus – sellest lähemalt artiklis.