Egy ponton túl világossá válik, hogy az AI nem egy automata, ami kitalálja a kérdéseink mögötti valós szándékot, magát a gondolatunkat.

Sokan először azt gondolják, hogy elbutít, vagy helyettesít, és „átveszi az irányítást”. Azonban ennél sokkal kellemetlenebb dolgot csinál. Megmutatja, hogy mennyire nem tudunk egy adott problémára választ keresni.
Nem helyettesít, nem tanít. Lebuktat.
Az első időszakban az ember azt hiszi, hogy a félrement válaszok a rendszer hibái. Hogy „nem értette”, „nem jól reagált”, „félreértelmezett”.

Aztán lassan, kellemetlen módon kiderül, hogy a probléma nem ott van, ahol gondolta. A probléma nála van. A kérdései homályosak, felszínesek. Az instrukciók pontatlanok. A szándék nincs végiggondolva. És ahol a szándék nincs tisztázva, ott a válasz sem lehet szakmailag teljességgel megalapozott.
Az eszköz nem javítja ki a gondolatot, nem pótolja a hiányzó belső munkát. Logikailag összerakja azt, amit elé tesznek. Nem szépít, nem kérdez vissza emberi módon, nem érzékeli, hogy „talán mást akartál mondani”. Pontosan azt adja vissza, amit kértek tőle.

És ettől válik egyszer csak kényelmetlenné.
Ekkor derül ki, hogy sokan már nem tudnak kérdezni. Nem azért, mert elbutultak, hanem mert elszoktak tőle. A rendszer eddig elvégezte helyettük a személyes gondolkodás jelentős részét. Most viszont nincs menekülőút. Nem úszható meg az elmélyülés az adott kérdésben. Ha nem tudod pontosan megfogalmazni mit akarsz, az eredmény sem lesz pontos. Ha lusta vagy begépelni minden részletre kiterjedően, és alaposan a kérdésedet, szinte szájbarágós módon, ne várj korrekt választ.
Ez nem a technika hiányossága. Ez az emberi „megúszni a munkát” kérdésköre.
Az AI nem veszi át a gondolkodást, de tőled megköveteli. Rákényszerít arra, hogy végiggondold, mit kérdezel, miért kérdezed és mit kezdenél a válasszal. Aki ezt meg akarja spórolni, az gyorsan csalódik. Aki viszont hajlandó visszatanulni az elveszített tudását, hirtelen rájön, mennyi minden kopott ki belőle és a környezetéből az idők során.
Megfogalmazni egy kérdést, pontosítani egy szándékot, különválasztani azt, amit tudni akarunk attól, amit csak hallani szeretnénk. Ezek alapvető emberi készségek. Nem AI-tulajdonságok.
Ezért olyan olyan zavarba ejtő ez az egész, mert nem a gép fejlődéséről szól, hanem a mi gondolkodási és problémamegoldó képességünk leépüléséről. Az AI nem mondja meg, mit gondoljunk.
Ebben az értelemben a visszatanulás nem választás kérdése, hanem kényszer. Vagy elkezdünk újra kérdezni, pontosítani, gondolkodni, vagy az eszköz rossz megoldásokat és válaszokat ad, amikből téves következtetések születnek, és ezek nyomán rossz döntések viszik mellé a dolgainkat.
És ez az a pont, ahol végleg eldől, hogy az AI segítőtárs lesz-e, vagy szép csomagolásban a rossz megoldások szállítója.
Rajtunk múlik.