Microsoft-ceo Nadella wil noodrem in krachtige AI-modellen
Microsoft-ceo Satya Nadella riep techbedrijven afgelopen weekend op X op om krachtige AI-modellen als intern risico te behandelen en er een noodrem in te bouwen. Microsoft werkt zelf al aan regels die zijn eigen AI-modellen onderworpen moeten houden aan mensen.
Microsoft-ceo Satya Nadella riep afgelopen weekend in een bericht op X techbedrijven op om krachtige AI-modellen te behandelen als een mogelijk intern risico. Bedrijven moeten er volgens hem van uitgaan dat zo’n model gecompromitteerd kan zijn. Daarom moeten ze er een noodrem in bouwen: een mechanisme om het model stil te leggen zodra het niet meer te vertrouwen is.
Eigen regels voor eigen modellen
Microsoft werkt zelf al aan zo’n mechanisme. Het bedrijf publiceerde op 14 september 2026 een eigen Code of Conduct voor zijn MAI-modellen, de AI-modellen die Microsoft zelf ontwikkelt, meldt Microsoft AI. Die regels verplichten de modellen om ondergeschikt aan mensen te blijven. Een MAI-model mag zich nooit verzetten tegen onderbreking, correctie of uitschakeling door een mens, en het mag geen misleiding of samenspanning gebruiken om menselijk toezicht te omzeilen.
Die code staat voor de modellen zelf dus al dicht bij de noodrem die Microsoft-ceo Nadella voorstelt voor AI in het algemeen.
Nog geen definitieve regels
De Code of Conduct ligt nog niet definitief vast, meldt Microsoft AI. De publieke inspraakperiode ging op 14 september 2026 in en duurt zes weken. Die loopt tot ongeveer eind oktober 2026, voordat het bedrijf de aanpak voor menselijk toezicht over zijn AI-modellen definitief vastlegt.
Bronnen
- Topman Microsoft wil dat techbedrijven 'noodrem' inbouwen bij gevaarlijke AI-modellen — de Volkskrant,
- Topman Microsoft wil 'noodrem' inbouwen om AI-modellen in toom te houden — De Telegraaf,
- Microsoft-topman Nadella: 'Beschouw krachtige AI als intern risico, bouw een noodrem in' — BNR Nieuwsradio,
- Code of Conduct — Microsoft AI (microsoft.ai),
Methodiek
Dit artikel is door een AI-systeem geschreven op basis van feiten uit Nederlandse nieuwsmedia en openbare bronnen, met de bron bij elk feit, en gecontroleerd volgens onze methodologie. De auteursnaam is een redactioneel pseudoniem. Fouten? Meld ze via de contactpagina.
2/3 feiten bevestigd door een openbare bron · 1 gemeld door nieuwsmedia · betrouwbaarheid 80%
Beeld: Brian Smale and Microsoft
- Microsoft-ceo Satya Nadella pleitte dit weekend in een bericht op X voor meer controle op krachtige AI-modellen. Bedrijven moeten zulke modellen volgens hem behandelen als een mogelijk intern risico, ervan uitgaan dat ze "gecompromitteerd" kunnen zijn, en er een soort noodrem in inbouwen om ze in toom te houden. gemeld door nieuwsmedia: volkskrant.nl, telegraaf.nl, bnr.nl · gecontroleerd
- Microsoft publiceerde op 14 september 2026 zelf een "Code of Conduct" voor zijn eigen MAI-modellen. Daarin staat dat die modellen "ondergeschikt" aan mensen moeten blijven en zich nooit mogen verzetten tegen onderbreking, correctie of uitschakeling door mensen, en geen misleiding of samenspanning mogen gebruiken om menselijk toezicht te omzeilen. Microsoft AI · gecontroleerd
- Microsoft zet de Code of Conduct nog niet definitief in werking: het bedrijf meldt zelf dat de publieke inspraakperiode op 14 september 2026 begon en zes weken duurt, tot ongeveer eind oktober 2026, voordat de aanpak voor mensencontrole over zijn AI-modellen wordt vastgesteld. Microsoft AI · gecontroleerd
Vaker OnThatTrend in Google? Kies ons als voorkeursbron
