Stärka och skydda val

Den demokratiska processen fungerar bäst när alla röstberättigade kan delta. Men alltför ofta saknar människor tillgång till information om hur de registrerar sig, var de röstar och vad kandidaterna står för, på ett språk och i ett format som de förstår. För många medborgare med synnedsättning, låg läskunnighet eller ett annat modersmål är traditionella valmejl och tryckta broschyrer helt enkelt inte tillgängliga. 

Inför dessa kommunikationsbarriärer kan röst-AI vara ett otroligt kraftfullt verktyg för demokratin. Den kan läsa upp information för personer med synnedsättning, svara på frågor på medborgarens föredragna språk eller dialekt och omvandla omfattande officiella dokument till en talad dialog. Men precis som all ny teknik kan samma möjligheter missbrukas av illvilliga aktörer för att vilseleda eller felinformera väljare. 

2026 är ett betydelsefullt valår, med nationella, regionala och lokala val i alla delar av världen, däribland stora val i USA och Brasilien. Det är också ett av de första valåren då uttrycksfull röst-AI med naturligt ljud är allmänt tillgänglig. Nedan berättar vi hur vi använder röst-AI för att stärka den demokratiska processen, samtidigt som vi förebygger och upptäcker missbruk av tekniken.

Stärka den demokratiska processen 

Röst-AI spelar redan en viktig roll i val genom att ge fler tillgång till officiell information från tillförlitliga institutioner – och Brasilien leder utvecklingen globalt.

Inför valet i oktober lägger Brasiliens högsta valdomstol (TSE) till ett röstlager i sin ”Electoral Assistant”, så att medborgare kan använda rösten för att få information från TSE:s webbplats, app och WhatsApp-kanaler. Med vår Text to Speech- och tal-till-text-teknik är det nya röstgränssnittet utformat för att motverka desinformation om val och ge alla brasilianska medborgare bättre tillgång till tillförlitlig information. Vi formaliserade samarbetet genom ett samförståndsavtal med TSE – vårt första med en nationell valmyndighet – och anslöt oss till TSE:s permanenta program för att bekämpa desinformation om val.

Vi samarbetar också med brasilianska organisationer som använder röst-AI för att stödja arbetet med att verifiera information. I nästan ett decennium har Comprova – en koalition av 42 brasilianska medieorganisationer under ledning av Brazilian Association of Investigative Journalism (Abraji) – arbetat outtröttligt för att identifiera manipulerat innehåll. Vi kommer att utbilda Comprovas partner i att använda vår AI Speech Classifier och andra detekteringsverktyg i sina verifieringsarbetsflöden. 

I USA samarbetar vi med beslutsfattare, branschorganisationer och ledande teknikföretag för att skydda mellanårsvalen. Tillsammans med andra medlemmar i Kaliforniens Countering Tech-Enabled Fraud Task Force motverkar vi bedrägerier som möjliggörs av röstteknik. Vi samarbetar med Google DeepMind för att vattenmärka vårt ljud så att det kan identifieras som AI-genererat, och med företaget Reality Defender, som upptäcker deepfakes, för att stärka deras verktyg för realtidsdetektering som används av stora företag och myndigheter. Genom ElevenLabs for Government hjälper vi myndigheter och civilsamhället att erbjuda medborgartjänster dygnet runt på flera språk, och vi arbetar för att ge samhällsinstitutioner i USA tillgång till den här funktionen inför valet 2026.

Förebygga och upptäcka missbruk av röst-AI 

Samtidigt som vi använder vår teknik för att bredda den demokratiska tillgången investerar vi i skyddsåtgärder som motverkar missbruk av illvilliga aktörer. Vi har en omfattande säkerhetsstrategi i flera lager, med överlappande skydd för våra modeller och produkter. Om ett lager kringgås finns de andra kvar. Några av dessa skyddsåtgärder är: 

• No Go Voices. Ljudprover som laddas upp för att skapa kloner granskas mot vår egen skyddsåtgärd ”No Go Voices” (NGV), som är utformad för att blockera skapandet av röster som tillhör högriskpersoner, såsom offentliga tjänstemän, politiska kandidater, kändisar och andra allmänt kända personer. Vi förfinar och utökar kontinuerligt NGV baserat på intern övervakning, aktuella händelser, användarrapporter och extern information – även när nya valcykler inleds.
• Voice CAPTCHA. Voice CAPTCHA jämför rösten i ett uppladdat prov med en realtidsinspelning av användaren som läser ett dynamiskt genererat manus. 
• Realtidsmoderering och asynkron moderering. Vi använder automatiserade system för att upptäcka innehåll som kan bryta mot våra policyer, bland annat sexuellt utnyttjande och övergrepp mot barn, hatretorik samt bedrägerier och svindleri. Systemen kan blockera visst innehåll innan det skapas. Genererat innehåll kan också klassificeras automatiskt för att stödja mänsklig granskning, utredning och efterlevnad.
• Åtgärder. Vi vidtar lämpliga åtgärder mot användare som bryter mot våra policyer, försöker kringgå våra skyddsåtgärder eller ägnar sig åt verksamhet som medför risk för allvarlig skada.
• Spårbarhet och transparens. Våra system är utformade för att kunna spåra genererat innehåll tillbaka till kontot som skapade det. Sedan 2023 erbjuder vi även en kostnadsfri AI Speech Classifier, som gör det möjligt för vem som helst att kontrollera om ett ljudprov innehåller AI-genererat innehåll skapat på ElevenLabs. Nyligen inledde vi ett samarbete med Google DeepMind för att använda deras vattenmärkningsteknik SynthID för innehåll som genereras på ElevenLabs, så att det kan identifieras som AI-genererat med vår kostnadsfria Audio Detector.  

Vårt fortsatta engagemang 

Vi tror starkt på de enorma fördelarna med röst-AI i det offentliga livet och är fast beslutna att se till att vår teknik används för gott. Vi kommer fortsätta att stärka våra skyddsåtgärder, lära av våra samarbeten runt om i världen och anpassa vårt arbetssätt när nya risker och möjligheter uppstår. Vi är glada över att samarbeta nära med myndigheter och civilsamhällesorganisationer globalt, och ser fram emot att fördjupa våra samarbeten under den här valcykeln och därefter.