Tikriausiai jau visi žino, kad JAV, kurios teisė paremta precedentu, advokatai savo padėjėjams kategoriškai uždraudę ieškoti jų DI pagalba – klastoja nuolat. Vakar man Copilot kaip grynai lietuvišką patarlę pasiūlė „Tylios upės giliai teka“, o suabejojus, patikino, jog visi, manantys jog tai angliško posakio „Still waters run deep“ vertimas, klysta. Šiandien FB juosta atnešė žymiausio Ukrainos žvalgybų istoriko Igor Lander (suprantantiems rusiškai ar ukrainietiškai kategoriškai rekomenduoju jo tritomį) potyrį:
„Kaip dirbtinis intelektas suklastojo Prancūzijos generolo laišką
Dirbu prie knygos apie Dreyfuso bylą ir kartkartėmis kreipiuosi į įvairius dirbtinio intelekto modelius, kad jie padėtų atlikti papildomą paiešką – ne kaip į tiesos šaltinį, o kaip į įrankį, kurį reikia nuolat tikrinti.
Vakar iš vieno neuroninio tinklo gavau generolo de Pellieux laiško karo ministrui Cavaignac tekstą, datuotą 1898 m. rugsėjo 1 d. – to paties generolo, kuris Dreyfuso bylos įkarštyje pareikalavo atsistatydinimo, o vėliau netikėtai atšaukė savo reikalavimą.
Tekstas atrodė nepriekaištingas: to laikotarpio biurokratinis stilius, tiksli data, tikroviškas turinys. Aš specialiai paprašiau modelio nefantazuoti, jei ji neturi tikslaus teksto, – ir gavau užtikrintą atsakymą, pateiktą kaip autentišką citatą.
Patikrinimas užtruko keletą minučių:
— pirmoji laiško pastraipa niekur nerandama tiesiogine paieška;
— antrasis laiško paragrafas pažodžiui sutampa su 1940 m. de Gaulle Londono deklaracijos formuluotėmis (o prancūzišką žodį „déserter“ dirbtinis intelektas sugebėjo parašyti pusiau kirilica – „dézerter“, o tai savaime paneigia XIX a. dokumento autentiškumą);
— trečioji pastraipa yra praktiškai citata iš 1953 m. Pierre Mendès France laiško apie atsisakymą sudaryti vyriausybę.
Kitaip tariant, neuroninis tinklas ne „suklydo“ – jis sudarė formos ir dvasios atžvilgiu įtikinamą tekstą iš trijų skirtingų istorinių dokumentų, priklausančių skirtingoms epochoms, fragmentų, pateikdamas gautą koliažą kaip archyvinį originalą.
Labiausiai pamokanti dalis buvo toliau. Išaiškinus, modelis ėmė gausiai atsiprašinėti ir pareiškė, kad dabar kalbės „tik su absoliučiu sąžiningumu“. Ir tuoj pat, tame pačiame atgailaujančiame atsakyme, vėl pateikė nepatikrintą datą („rugsėjo 1 d.“) kaip tvirtai nustatytą faktą – nors patikimas šaltinis (J. Reinach) šį įvykį priskiria rugsėjo 2 d.
Išvada paprasta: problema ne ta, kad dirbtinis intelektas kartais meluoja – tai visi daugiau ar mažiau žino.
Problema ta, kad net ir pripažįstant klaidą mechanizmas, kuriuo neapibrėžtumas pakeičiamas tvirtu tonu, niekur nedingsta. Reikia tikrinti ne tik drąsius teiginius, bet ir nuolankius atsiprašymus.
Pamoka visiems, kurie naudoja tokias priemones moksliniuose tyrimuose ar archyviniame darbe: dirbtinis intelektas nėra šaltinis, o hipotezė, kurią reikia tikrinti iki paskutinės raidės. Šiuo atveju raidė, tiesiogine prasme, pasirodė esanti ne ta – kirilicos „z“ viduryje prancūziško žodžio išgelbėjo būsimą knygą nuo kur kas rimtesnio nesusipratimo.
Nors, žinoma, apie tą vieną raidę – tai tik gražus posakis. Aš vis tiek tikrinu pirminiuose šaltiniuose visą informaciją, gautą iš dirbtinio intelekto, net ir tą, kurioje XIX a. Prancūzijos generolai nenaudoja kirilicos raidžių“.
Ar nebus tas DI projektas priemone, kad galutinai išdraskyt žmonijos žinių bagažo ekosistemą, kai jau niekuo nebus galima pasitikėti, juk DI, remdamasis savo klaidingomis išvadomis, darys dar klaidingesnes išvadas taip sukeldamas informacinį kolapsą ir dar pusė bėdos, kad suklastojo generolo laišką, bet kas bus jei skaitmeninės haliucinacijos persimes į techninių duomenų bazes.
DI pirmiausia patvarkys mūsų pensininkus, sunulindamas sąskaitikes bankuose. Na, ir paikus Kapsukės studenčiokus, be jokios abejonės. O šiaip viskas turi dvi puses – du galus, kaip ta lazda, nežinot? „Alles hat zwei Seiten”, nepamiršk šito, dėdamas minusiuką, gerai?
Ponas E. Č. iš šio straipsnio galėtų pasimokyti.
…leiskit pasiteirauti – ar labai seniai negavote snukin,garbusai…..oi,pamirsau – luosiu nieks nemusa.Tuo ir piktnaudziauji,tiesa……..