Nagy probléma, ha a chatbotok valótlanságokat terjesztenek, de bosszankodás helyett talán ünnepelnünk kellene ezeket a hallucinációkat, mint az emberi kreativitás ösztönzőit és a gépek hatalomátvételének akadályát.

Ez a tudomány/matematika a dolog mögött, de ezek a hallucinációk az emberekben kiváltható élmény miatt is figyelemre méltóak. Időnként ezek a generatív kitalációk hihetőbbnek tűnhetnek, mint a tényleges tények, amelyek gyakran megdöbbentően bizarrak. Hányszor írnak a bulvárlapok olyan dolgokról, amit még forgatókönyvírók sem mernének beleírni a filmekbe? A hallucinációk azzal csábíthatnak el minket, hogy egy olyan világhoz kötnek minket, amely kevésbé megrázó, mint az, amelyben valójában élünk. Sokatmondó, hogy milyen részleteket szoktak a botok kitalálni. Kétségbeesett kísérletükben, hogy kitöltsék a kielégítő narratíva hiányosságait, a valóság statisztikailag legvalószínűbb verziójához húznak.

Mivel az LLM-ek nem feltétlenül úgy gondolkodnak, mint az emberek, a statisztikai fantázia szárnyalása értékes eszköz lehet a kreativitás ösztönzésére. "A generatív rendszereket egyre inkább a művészek fedezik fel, hogy olyan ötleteket kapjanak, amelyekre nem feltétlenül gondoltak volna" - mondja Ahmad, a Vectara munkatársa. A mesterséges intelligenciát fejlesztők egyik legfontosabb küldetése, hogy segítsenek megoldani az emberiség megoldhatatlan problémáit, olyan ötletekkel, amelyek túlmutatnak az emberi képzelet határain. Ahmad egyike azoknak, akik úgy vélik, hogy még ha ki is találjuk, hogyan lehet nagyrészt kiküszöbölni ezeket az algoritmikus füllentéseket, akkor is meg kell tartanunk őket.