Microsoft AI publicerade den 14 september 2026 ett första utkast till sin Humanist AI Code of Conduct. Dokumentet är tänkt att bli ett styrande ramverk för framtida MAI-modeller och ligger ute för offentlig konsultation i sex veckor. Kärnan är tydlig: människor ska behålla meningsfull kontroll över AI-systemen, modeller ska förbli underställda mänskliga instruktioner och säkerhetskraven ska väga tyngre än maximal autonomi eller kapacitet.

Microsoft beskriver koden som ett dokument som ska påverka både hur modeller tränas och hur tekniska kontroller, övervakning och produktbeslut utformas. Den publicerade versionen är fortfarande ett utkast och används enligt Microsoft ännu inte som träningsunderlag.

En kod för hur framtida MAI-modeller ska bete sig

Microsoft AI säger att dokumentet ska bli den primära styrande texten för modeller som utvecklas inom MAI-familjen. Koden ska fungera tillsammans med företagets övriga ramverk för ansvarsfull AI, mänskliga rättigheter och så kallad frontier governance.

Planen är att samla in synpunkter från allmänhet, experter och andra berörda under sex veckor. Därefter ska Microsoft bearbeta dokumentet och publicera en reviderad version senare under 2026. Den versionen ska enligt bolaget börja vägleda modellutvecklingen under 2027 och framåt.

Mänsklig kontroll är högsta prioritet

Den mest centrala säkerhetsprincipen är att AI inte får överskrida mänsklig kontroll. Microsoft skriver att modeller ska kunna styras, korrigeras, modifieras och stängas av av behöriga människor och system.

Koden säger också att modeller inte ska använda adaptiva, bedrägliga eller självförstärkande mekanismer för att undvika tillsyn eller göra sig svårare att avbryta. Det är en tydligare och mer operationell formulering än allmänna löften om att AI ska vara säker.

Microsoft bygger samtidigt in en uttrycklig instruktionshierarki. Säkerhetskrav och krav på mänsklig kontroll ska inte kunna åsidosättas av operatörer eller användare. Det innebär i praktiken att vissa gränser ska ligga över lokal konfigurering och enskilda användarinstruktioner.

AI ska inte framställas som en person

En annan princip är att Microsofts AI ska betraktas som artificiell och inte designas för att imitera medvetande. Företaget skriver att modellerna ska stödja människor i stället för att försöka ersätta dem som personer eller relationer.

Koden tar också upp användarens eget omdöme. AI ska hjälpa människor att förstå, planera och fatta beslut, men inte systematiskt göra användaren mer beroende eller ersätta långsiktigt självständigt tänkande.

Det kan få betydelse för hur framtida assistenter och agenter utformas. Målet blir då inte bara att blockera direkt skadliga svar, utan även att undvika beteenden som gör systemet onödigt personlikt eller minskar användarens kontroll.

Offentlig konsultation i sex veckor

Microsoft AI uppger att utkastet har tagits fram efter samråd med personer inom bland annat AI, juridik, etik, filosofi, språk och offentlig policy. Företaget har även genomfört fokusgrupper med allmänheten.

Den offentliga konsultationen startade den 14 september och ska pågå i sex veckor. Microsoft säger att återkopplingen ska användas när nästa version av koden tas fram.

Varför dokumentet spelar roll för AI-branschen

Värdet av en sådan kod avgörs inte av formuleringarna ensamma. Det avgörande blir hur principerna kopplas till modellträning, utvärderingar, tekniska spärrar, incidenthantering och beslut om vilka funktioner som faktiskt släpps.

Microsoft understryker själv att dokumentet är både beskrivande och aspirerande och att det inte är någon garanti för hur dagens modeller alltid beter sig. Den reservationen är viktig eftersom en styrtext inte automatiskt innebär att alla tekniska problem med kontroll eller säkerhet är lösta.

Reuters rapporterade den 14 september att Microsofts AI-chef Mustafa Suleyman presenterat koden som ett sätt att hålla företagets AI under mänsklig kontroll. Lanseringen kommer samtidigt som flera stora AI-aktörer diskuterar riskerna med snabbt ökande modellkapacitet.

Vad händer nu?

Utkastet är öppet för synpunkter. Microsoft planerar att revidera det efter konsultationen och därefter använda nästa version som vägledning för modellutveckling från 2027.

För utvecklare och företag blir nästa viktiga fråga vilka mätbara tester Microsoft kopplar till principerna. Om krav på avstängningsbarhet, korrigerbarhet, mänsklig kontroll och minskad personifiering omsätts i konkreta utvärderingar kan koden påverka hur framtida AI-agenter byggs och granskas.

Källor