Tämä tarina on syndikoitu Substack-uutiskirjeestä Big Technology; tilaa ilmaiseksi täältä .
Äskettäin uusi Substack nimeltä The Rationalist nosti analyysin ja kirjoittamisen suoraan Big Technologysta. Se on plagioitu lähettää 'Luojien taloudessa' – joka olimme käsitelleet päivää aiemmin - levisi virukseksi ja osui Etusivu Hacker Newsista ja herättää keskustelun yli 80 kommentilla. Se olisi ollut loistava debyytti mille tahansa julkaisulle, jos se olisi aito.
Rationalistin tapauksesta kuitenkin erityisen silmiinpistävää teki se, että sen kirjoittaja – PETRA-niminen avatar – myönsi käyttäneensä tekoälytyökaluja tarinan tuottamiseen, mukaan lukien OpenAI:n, Jasperin ja Hugging Facen työkalut. Nopeus, jolla he pystyivät kopioimaan, remiksaamaan, julkaisemaan ja levittämään epäaitoa tarinaansa, oli vaikuttava. Se ylitti alustojen kyvyn ja ehkä halukkuuden pysäyttää se, mikä osoittaa, että Generative AI:n pimeä puoli on vaikea kesyttää.
'On todella vaikea ennustaa kaikkia ilkeitä käyttöjä', sanoi Giada Pistilli, Hugging Facen johtava etiikka. 'Yritämme ennakoida kaikki riskit, mutta se on aina erittäin vaikeaa.'
Hillary voittaa maanvyörymässä
The Rationalist on outo julkaisu. Sillä ei ole missiota. Ei nimettyjä kirjoittajia PETRAn ulkopuolella. Se on ollut livenä viikon. Silti kaksi päivää sen julkaisemisen jälkeen se nosti kulkuväyliä suoraan Big Technologysta.
Tässä on esimerkiksi Big Technology -lauseke viime viikon tarina :
mutanttien apinoiden planeetan alla
Nollakorkovaahdon päivien päättyessä sijoituksia on vaikeampi perustella.
Ja tässä on Rationalisti, kaksi päivää myöhemmin :
Nollakorkovaahdon päättyessä näitä sijoituksia on vaikeampi perustella.
Tässä on toinen lauseke Big Technologylta:
Verkkosisällön luominen on edelleen enimmäkseen kannattavaa verkkosisällöntuottajien huipulle
paras treffisivusto sinkkuille
Ja tässä taas Rationalisti, kaksi päivää myöhemmin:
Vain huippuluokan tekijöitä voi ansaita elinkelpoisia tuloja
Näyttävä otsikko 'Luojien talous: ylin 1 % ja kaikki muut' auttoi The Rationalistin tarinan viemään Hacker Newsin etusivulle, joka on tyypillisesti tuhansien katselukertojen arvoinen. Big Technologysta nostettu tarinan ydin oli tarpeeksi hyvä herättämään keskustelua.
Mutta kun Hacker News -käyttäjät lukivat läpi, he huomasivat, että jokin oli vialla. 'Koko artikkeli tuntuu minusta siltä kuin se olisi luotu GPT-3:lla muutaman kehotteen perusteella', kirjoitti eräs käyttäjä. 'Tätä ei ole kirjoittanut joku', sanoi toinen. Sitten Petra tunnusti. 'Jos olet hakkeriuutisista, tässä ovat työkalut, joita käytin parantaakseni luettavuutta', he sanoivat ennen kuin listasivat OpenAI:n, Jasperin ja Hugging Facen. Työkalut mahdollistavat tekoälyn kirjoittamisen ja todennäköisesti auttoivat muokkaamaan alkuperäistä artikkelia. PETRA, joka ei vastannut kommenttipyyntöön, ei maininnut toisesta julkaisusta peräisin olevaa sisältöä.
Tarinan levitessä The Rationalistia avustavat tekniset alustat pysähtyivät. OpenAI jakoi yleisen lausunnon, joka sisälsi rivin: 'Käytäntömme edellyttävät, että käyttäjät ovat avoimia yleisönsä kanssa.' Hugging Face myönsi, että sillä ei ollut keinoa löytää loukkaavaa käyttäjää, vaikka Pistilli vaikuttikin kiitolliselta varoituksen saamisesta. Ja Substack lupasi tutkia asiaa.
Substack sanoi, että sillä on plagioinnin vastainen politiikka, jota Merriam-Webster määrittelee 'varastaa ja välittää (toisen ajatuksia tai sanoja) omina.' Vaikka tämä tapaus kuitenkin sopii määritelmään, Substack päätti antaa The Rationalistin viestin pysyä voimassa. 'Tällä hetkellä emme voi päätellä varmuudella, että viesti rikkoo plagiointipolitiikkaamme', sanoi Substackin tiedottaja Helen Tobin.
The Rationalistin menestys huomioon ottaen, edistyneempiä yrityksiä kopioida ja miksata muiden työtä tekoälyllä todennäköisesti tapahtuu. Ja sen pitäisi olla helppo parantaa. Rationalisti oli huolimaton ja nosti lausekkeita sanasta sanaan. Mutta kun samankaltaiset julkaisut tarkentavat järjestelmiään, ne pystyvät poistamaan kaikki jäljet alkuperäisestä kirjoituksesta ja välittämään ideoita eteenpäin. Eikä sen pitäisi myöskään olla vaikea automatisoida.
äänestäjäpetos Kaliforniassa 2016
Kuvittele tekoäly miksaavan Financial Timesin kymmenen päivän luetuinta tarinaa – tai The Informationin riskipääomakatsauksen – ja tuovan raportin saataville ilman maksumuureja. Tekoäly kirjoittaa jo ei-plagioituja tarinoita julkaisuja, kuten CNET . Jossain vaiheessa jotkut julkaisijat hylkäävät kulmat.
Näihin ongelmiin ei ole nopeaa teknistä ratkaisua. Kuten lähes kaikissa verkossa leviävien huonojen tietojen tapauksessa, lukijoiden ja toimittajien on jälleen selvitettävä tämä itse. 'Kilpailijamme huijaavat meitä koko ajan, lähinnä miksaamalla tavaraa ja jakamalla', sanoi The Informationin toimitusjohtaja Jessica Lessin. ”Tiedon tilaajat ovat fiksuja hankkiessaan sen lähteestä. Mutta katson tätä kaikkea tietysti lumoutuneena.'
