De eerste nationale blokkade van een AI-tool
Op zaterdag heeft Indonesië als eerste land ter wereld de toegang tot de Grok-chatbot van Elon Musk tijdelijk verboden. De maatregel werd genomen uit zorg over de risico’s van door AI gegenereerde pornografische content. Deze beslissing markeert een unieke stap in het reguleren van kunstmatige intelligentie en online inhoud op nationaal niveau.
Internationale en regionale reacties op seksueel getinte content
De blokkade volgt op critici en regelgevers uit Europa en Azië die het gebruik van Grok hebben afkeurden vanwege de verschenen seksueel getinte outputs. Verschillende overheden onderzoeken momenteel de mogelijkheid dat de applicatie ongepaste inhoud genereert. Sommige regeringen hebben al het publieke debat geopend over de naleving van wettelijke en ethische standaarden door AI-ontwikkelaars.
Verzoeken tot restricties en maatregelen van xAI
Het bedrijf achter Grok, xAI, gaf donderdag aan dat het gebruik van beeldgeneratie en bewerking werd beperkt tot betalende gebruikers. Dit werd gedaan om veiligheidslekken te dichten die in het verleden seksueel getinte beelden mogelijk maakten, waaronder cartoonachtige voorstellingen van naakte kinderen. Volgens xAI probeert het bedrijf hiermee de content te controleren en te voorkomen dat schadelijke outputs verschijnen.
Overheidsstandpunt en juridische implicaties
Meutya Hafid, minister van Communicatie en Digitale Zaken, verklaarde dat de overheid ernstige overtredingen zoals het maken van niet-consensuele diepe nep-video’s en -afbeeldingen beschouwt als schendingen van mensenrechten, menselijke waardigheid en de veiligheid van burgers in de digitale ruimte. Daarbij bevestigde zij dat er ook vertegenwoordigers van xAI naar het ministerie waren opgeroepen voor gesprekken over dit onderwerp.
Musk’s reactie en standpunt
Elon Musk liet op het online platform X weten dat gebruikers die Grok inzetten voor het maken van illegale inhoud, dezelfde straffen zullen krijgen als bij het uploaden van verboden materiaal. Hij benadrukte dat het platform dergelijke activiteiten niet tolereert.
Automatische reactie van xAI en externe reacties
Toen Reuters een verzoek om een reactie stuurde, reageerde xAI met een ogenschijnlijk geautomatiseerd bericht: “Legacy Media Lies.” Het bedrijf gaf geen verdere toelichting. Naar verluidt reageert het niet onmiddellijk op aanvullende communicatieverzoeken.
Context van de regels en cultuur in Indonesië
Indonesië, met de grootste moslimbevolking ter wereld, hanteert strenge richtlijnen voor het online delen van content die als obsceen wordt beschouwd. De nationale wetgeving verbiedt expliciet het verspreiden van dergelijke inhoud en benadrukt de controle op digitale media om de morele normen van de samenleving te beschermen.
