Majdnem minden tapasztalt tudós tudja, hogy az írás, ahogy a történész Lynn Hunt érvelt, „nem a [az író] elméjében már tudatosan jelen lévő gondolatok átírása”. Az írás inkább a gondolkodáshoz szorosan kapcsolódó folyamat. A doktori alma máterben hónapokat töltöttem azzal, hogy a disszertációm darabjait próbáltam összerakni a fejemben, és végül rájöttem, hogy csak írásban tudom megoldani a rejtvényt. Az írás kemény munka. Néha ijesztő. A mesterséges intelligencia könnyű csábításának köszönhetően sok - talán a legtöbb - diákom már nem volt hajlandó a kellemetlenségek átvészelésére.
Legutóbbi munkám során tudományos írást tanítottam doktoranduszoknak egy műszaki főiskolán. A végzős hallgatóim, akik közül sokan informatikusok voltak, jobban megértették a generatív mesterséges intelligencia mechanizmusait, mint én. Felismerték, hogy az LLM-ek megbízhatatlan kutatási eszközök, amelyek hallucinálnak és idézeteket találnak ki. Felismerték a technológia környezeti hatásait és etikai problémáit. Tudták, hogy a modelleket meglévő adatokon képzik ki, és ezért nem tudnak újszerű kutatásokat produkálni. Ez a tudás azonban nem akadályozta meg a diákjaimat abban, hogy nagymértékben támaszkodjanak a generatív mesterséges intelligenciára. Több diák bevallotta, hogy kutatásukat jegyzet formájában fogalmazták meg, és a ChatGPT-t kérték meg, hogy írja meg a cikkeiket.
Tapasztalt tanárként ismerem a legjobb pedagógiai gyakorlatokat. Én scaffolded feladatokat készítettem. Kutattam módokat a generatív AI beépítésére a tanterveimbe, és olyan tevékenységeket terveztem, amelyek felhívják a figyelmet a korlátokra. Emlékeztettem a diákokat, hogy a ChatGPT megváltoztathatja a szöveg jelentését, amikor felülvizsgálatra kérik, hogy elfogult és pontatlan információkat adhat, hogy nem hoz létre stilisztikailag erős írást, és hogy az osztályzatorientált diákok számára nem eredményez A-szintű munkát. Ez nem számított. A diákok mégis használták.
Az egyik tevékenység során a diákjaim az órán fogalmaztak meg egy bekezdést, munkájukat a ChatGPT-be táplálták egy átdolgozási felszólítással, majd összehasonlították a kimenetet az eredeti írásukkal. Az ilyen típusú összehasonlító elemzések azonban kudarcot vallottak, mert a legtöbb diákom nem volt elég fejlett író ahhoz, hogy elemezze a jelentés finomságait vagy értékelje a stílust. „Ettől az én írásom díszesnek tűnik” - tiltakozott az egyik doktorandusz, amikor rámutattam az AI által átdolgozott szöveg gyengeségeire.
A diákjaim nagymértékben támaszkodtak az AI-alapú parafrázis-eszközökre is, mint például a Quillbot. A jó parafrazálás, akárcsak az eredeti kutatás megfogalmazása, a megértés elmélyítésének folyamata. A duplikatív nyelvhasználat” közelmúltbeli, nagy visszhangot kiváltó példái emlékeztetnek arra, hogy a parafrazálás kemény munka. Nem meglepő tehát, hogy sok diákot csábítanak a mesterséges intelligenciával működő parafrazáló eszközök. Ezek a technológiák azonban gyakran következetlen írásmódot eredményeznek, nem mindig segítenek a diákoknak elkerülni a plágiumot, és lehetővé teszik az író számára, hogy elfedje a megértést. Az online parafrazáló eszközök csak akkor hasznosak, ha a diákok már mélyreható ismereteket szereztek az írás mesterségéről.
Azok a diákok, akik mesterséges intelligenciára bízzák az írásukat, elveszítik a lehetőséget, hogy mélyebben átgondolják a kutatásukat. Egy nemrégiben megjelent cikkben a művészetről és a generatív mesterséges intelligenciáról Ted Chiang szerző így fogalmazott: „A ChatGPT-t használni a feladatok elvégzéséhez olyan, mintha egy targoncát hoznál a súlyzós terembe; így sosem fogod fejleszteni a kognitív kondíciódat.” Chiang azt is megjegyzi, hogy az a több száz apró döntés, amit íróként hozunk, ugyanolyan fontos, mint a kezdeti koncepció. Chiang szépirodalmi író, de a logika ugyanúgy alkalmazható a tudományos írásra is. A szintaxisra, a szókincsre és a stílus egyéb elemeire vonatkozó döntések majdnem annyira átitatják a szöveget jelentéssel, mint az alapjául szolgáló kutatás.
A generatív mesterséges intelligencia bizonyos szempontból egy demokratizáló eszköz. Sok diákom nem anyanyelvi szinten beszélt angolul. Írásuk gyakran tartalmazott nyelvtani hibákat. A generatív mesterséges intelligencia hatékonyan javítja a nyelvtant. A technológia azonban gyakran megváltoztatja a szókincset és megváltoztatja a jelentést, még akkor is, ha az egyetlen felszólítás (prompt) az, hogy „javítsd ki a nyelvtant”. A diákjaim nem rendelkeztek azokkal a készségekkel, amelyekkel felismerhették és kijavíthatták volna a finom jelentésváltozásokat. Nem tudtam meggyőzni őket a stilisztikai következetesség szükségességéről, vagy arról, hogy kutató íróként hangot kell adniuk.
A probléma nem az AI által generált vagy az AI által átdolgozott szöveg felismerése volt. Minden félév elején a hallgatóknak írniuk kellett az órán. Ezzel az alapmintával, mint összehasonlítási ponttal könnyű volt megkülönböztetni a diákjaim írását a ChatGPT által generált szövegtől. Ismerem a mesterséges intelligencia detektorokat is, amelyek azt hivatottak jelezni, hogy valamit mesterséges intelligencia generált. Ezek a detektorok azonban hibásak. A mesterséges intelligenciával segített írást könnyű azonosítani, de nehéz bizonyítani.
Az eredmény az lett, hogy sok órát töltöttem olyan írások osztályozásával, amelyekről tudtam, hogy mesterséges intelligencia által generáltak. Megjegyeztem, hogy az érvek hol nem voltak megalapozottak. Rámutattam az olyan gyengeségekre, mint például a stilisztikai furcsaságok, amelyekről tudtam, hogy gyakoriak a ChatGPT-nél (észrevettem az olyan kifejezések hirtelen megugrását, mint például a „beleássa magát”). Vagyis több időt töltöttem azzal, hogy visszajelzést adjak az AI-nak, mint a diákjaimnak.
Ezért felmondtam.
A legjobb oktatók alkalmazkodni fognak az AI-hoz. Bizonyos szempontból a változások pozitívak lesznek. A tanároknak el kell mozdulniuk a mechanikus tevékenységektől vagy az egyszerű összefoglalók kijelölésétől. Meg kell találniuk a módját annak, hogy a diákokat kritikus gondolkodásra ösztönözzék, és megtanulják, hogy az írás az ötletek generálásának, az ellentmondások feltárásának és a módszertanok tisztázásának egyik módja.
Ezek a leckék azonban megkövetelik, hogy a diákok hajlandóak legyenek együtt élni a nem tudás átmeneti kellemetlenségével. A diákoknak meg kell tanulniuk, hogy saját kognitív képességeikbe vetett hittel haladjanak előre, miközben írnak és átdolgozzák a tisztánlátás felé vezető utat. Néhány kivételtől eltekintve a diákjaim nem voltak hajlandóak belépni ezekbe a kényelmetlen terekbe, és nem is maradtak ott elég sokáig ahhoz, hogy felfedezzék az írás kinyilatkoztató erejét.
A TIME magazin cikke nyomán