Roboten Claude skal merke tekstar som er laga med KI

KI-selskapet Anthropic, som eig KI-tenesta Claude, skal gjere det lettare å skjøne kva om ein tekst er laga med KI.

Vassmerking

Eit vassmerke er eit merke på ei digital fil som seier noko om opphavet til fila. Det kan til dømes vere ein signatur på eit fotografi som viser kven fotografen er, for å hindre ulovleg kopiering.

Ordet har opphav i papirproduksjon, og vassmerking vert også nytta for å hindre forfalsking av pengesetlar.

Kjelder: Store norske leksikon og Det norske akademis ordbok.

LES FAKTALUKK FAKTA

Framtidige versjonar av KI-verktøyet Claude vil produsere tekst med ei skjult merking som viser teksten som KI-generert.

At noko er KI-generert vil seie at det er laga med kunstig intelligens.

Anthropic vil nemleg innføre såkalla vassmerking av KI-generert tekst frå roboten Claude, skriv selskapet på nettsidene sine.

Det gjer dei for å rette seg etter nye EU-reglar som tredde i kraft 2. august, der EU krev at KI-generert innhald skal vere merka. ChatGPT, Copilot og andre KI-robotar har frist til 2. desember med å innføre slik merking.

Alle eksisterande chatterobotar er nøydde til å innføre vassmerking innan 2. desember, ifølge nye EU-reglar. Foto: Solen Feyissa/Unsplash

Vassmerkinga vil ikkje påverke kvaliteten eller innhaldet som Claude leverer, skriv Anthropic. Det vil ikkje vere mogleg for lesarar å merke skilnad på teksten, og ingen skjulte teikn vil dukke opp i teksten. Vassmerket vil heller ikkje innehalde informasjon som fortel noko om kven som har laga teksten med KI, og kan ikkje sporast tilbake til ein bestemt og chat.

Vassmerking av KI-generert tekst kan kome til nytte til dømes i utdanningssystemet. Nokon stiller likevel spørsmål ved kor effektiv vassmerkinga vil vere og kor lett det vil vere å omgå vassmerket ved å redigere teksten i etterkant. Det har også dukka opp verktøy som kan fjerne vassmerket.