Wanneer slimme technologie te gevaarlijk wordt: Google-medewerkers in opstand tegen geheime AI-deals
workers van Google, voornamelijk uit de divisions DeepMind en Cloud, hebben hun stem laten horen — luider dan ooit. Meer dan 600 van hen tekenden een petition gericht aan CEO Sundar Pichai, waarin ze vragen om een halt toe te roepen aan het gebruik van Google’s AI in geheime Amerikaanse militaire operaties. Hun concern is duidelijk: de krachtige technologie die zij helpen bouwen, zou kunnen worden ingezet voor onethische doeleinden. Ze wijzen op recente berichten dat Google en het Pentagon in het geheim overleggen over het gebruik van Gemini-AI, een systeem dat nooit bedoeld was voor het slagveld.
De tension tussen ethische principles en commerciële realiteit is al lang een open geheim binnen het bedrijf. In 2018 stelde Google AI-richtlijnen vast die expliciet het gebruik van AI in weapons of massale surveillance verboden. Maar in 2022 werden die formuleringen verwijderd. Die herziening laat een gat achter — en medewerkers zien dat als een green light voor moraal riskante samenwerkingen. Toch claimt Google dat het geen AI levert voor dodelijke toepassingen, ondanks de nieuwe contracten met het Pentagon.
Toen in januari tijdens een meeting werd gemeld dat er meer militaire deals op komst zijn, groeide de onrust. De kern van de kritiek ligt in het geheimhoudingsniveau van deze projecten. Zonder toezicht of transparantie, hoe kunnen medewerkers er zeker van zijn dat hun code niet wordt gebruikt voor surveillance of military doeleinden die hun morele grenzen overschrijden? Ze vrezen dat hun werk, dat ooit gericht was op klimaatmodellen of medische innovation , nu de andere kant op wordt gekanteld.
Het verhaal herhaalt zich: in 2018 trokken duizenden medewerkers zich terug van Project Maven, wat leidde tot de stopzetting van het contract. Nu is het weer zover. De brief is geen paniekreactie, maar een principiële uiting van technologen die hun verantwoordelijkheid voelen. Ze willen niet dat AI het menselijk good dient in de marketingfolders, maar het kwaad in de praktijk. Hun boodschap is helder: als Google echt gelooft in ethische AI, dan moet het ook durven weigeren — zelfs tegen hoge cost .
Als je technologie maakt die krachtig genoeg is om het klimaat te redden, is het naïef om te denken dat het niet wordt gebruikt om oorlogen te voeren. naive Naïef.
Ze willen ethiek, maar blijven bij een bedrijf dat data monétiseert. Hoeveel ethics ethiek past er eigenlijk in een cloudcontract?
Het is geen tegenstand tegen defensie, maar tegen geheimhouding. Geen toezicht betekent geen verantwoording.
Misschien moeten ze gewoon stoppen met het bouwen van dingen die te krachtig zijn voor eigenaarsschap. powerful Krachtig genoeg om kwaad te doen, is te krachtig.
Ik werk niet bij Google, maar ik snap hun morele dilemma. Je bouwt iets dat de wereld kan verbeteren — en dan wordt het gebruikt tegen mensen.
Transparantie is het enige antwoord. Geen geheime deals. Geen schaduwprojecten.
Ze hopen dat AI de mensheid ten goede komt. Maar hoop is geen beleid.