Den amerikanska underrättelsetjänsten har lanserat ett program för att utveckla artificiell intelligens som kan fastställa författarskap till anonymt skrivande samtidigt som det döljer en författares identitet genom att subtilt ändra deras ord.
Programmet Human Interpretable Attribution of Text Using Underlying Structure (HIATUS) från Intelligence Advanced Research Projects Activity (IARPA) syftar till att bygga programvara som kan utföra "lingvistiskt fingeravtryck", kontoret för direktören för National Intelligence (ODNI) sade.
”Människor och maskiner producerar enorma mängder textinnehåll varje dag. Text innehåller språkliga drag som kan avslöja författarens identitet”, IARPA sade [PDF].
Med rätt modell tror IARPA att det kan identifiera konsistenser i en författares stil över olika prov, modifiera de språkliga mönstren för att anonymisera skrivandet och göra allt på ett sätt som kan förklaras för nybörjare, sa ODNI. HIATUS AI:er måste också vara språkagnostiska.
"Vi har en stor chans att nå våra mål, leverera välbehövlig kapacitet till Intelligence Community och avsevärt utöka vår förståelse av variation i mänskligt språk med hjälp av de senaste framstegen inom beräkningslingvistik och djupinlärning", säger HIATUS programchef Dr Timothy McKinnon .
För att utveckla starka modeller planerar HIATUS att närma sig sina mål som en fråga om kontradiktorisk AI: Tillskrivning av författarskap och anonymisering av text är två sidor av samma problem, och därför kommer HIATUS-experimentgrupper att ställas mot varandra.
"Attributionssystem utvärderas på förmågan att matcha föremål av samma författare i stora samlingar, medan integritetssystem utvärderas på förmågan att omintetgöra tillskrivningssystem," sa IARPA.
Byrån sa att den också planerar att utveckla förklaringsstandarder för HIATUS AIs.
McKinnon sade den delen av vad HIATUS gör är att försöka avmystifiera några av de okända neurala språkmodellerna (fokus för HIATUS ansträngningar), som han sa fungerar bra men är i huvudsak svarta lådor som fungerar utan att deras utvecklare vet varför de fattar ett särskilt beslut.
Helst, sa McKinnon, "när vi utför tillskrivning eller vi utför författarskapsintegritet, kan vi verkligen förstå varför systemet beter sig som det är, och kunna verifiera att det inte plockar upp falska saker och att det gör det. den rätta saken."
Om det lyckas kan HIATUS få långtgående effekter, från att motverka utländsk påverkan, till att identifiera kontraspionagerisker och skydda författare vars arbete kan äventyra dem, sa ODNI. McKinnon lägger till att HIATUS AI:er också kan identifiera om text är maskingenererad snarare än mänskligt författad.
Cirka 70 procent av IARPA:s genomförda forskning går till andra regeringspartners för implementering, vilket IARPA inte kommer att vara involverat i – allt det gör är att utveckla tekniken, inte göra den till något användbart. Som sagt, oddsen är till HIATUS favör, enligt underrättelsetjänsten.
Förvänta dig dock inte att den här tekniken kommer att dyka upp i fullständig form inom kort: Nu när HIATUS har startat kommer det att dröja 42 månader (tre och ett halvt år) tills experimentet avslutas, och det är bara då att andra statliga myndigheter sannolikt kommer att få ta HIATUS för en runda, om McKinnon och hans team är framgångsrika. ®
