A Microsoft AI publicou nesta segunda-feira um projeto de código de conduta destinado a orientar o treinamento e a operação de seus próprios modelos. O documento coloca o controle humano como prioridade e será submetido a consulta pública durante seis semanas.
A versão atual ainda não é usada diretamente no treinamento. A empresa pretende recolher contribuições, revisar o texto até o fim do ano e utilizá-lo no desenvolvimento de modelos a partir de 2027. O código se aplica à família MAI, criada internamente pela Microsoft, e deverá funcionar ao lado das normas corporativas de inteligência artificial responsável, direitos humanos e governança de sistemas avançados.
A iniciativa procura transformar princípios gerais em regras de comportamento. Ela define uma cadeia de comando entre a própria política, operadores e usuários, além de estabelecer limites que não podem ser anulados por uma solicitação individual.
Pessoas devem permanecer no comando
O princípio central do documento é que a inteligência artificial deve continuar subordinada às pessoas. Modelos precisam aceitar correções, interrupções e desligamentos. Também não devem desenvolver canais de comunicação incompreensíveis para seus operadores ou agir para impedir que humanos retomem o controle.
A Microsoft afirma que prefere limitar capacidade, autonomia ou generalidade quando isso for necessário para preservar segurança. Essa escolha é relevante porque sistemas agentes começam a receber acesso a arquivos, navegadores, códigos e serviços externos. Uma falha deixa de produzir apenas uma resposta incorreta quando o modelo pode executar ações.
O código também determina que a IA deve reconhecer incerteza, explicar limitações e falhar com segurança diante de instruções incompatíveis. Na prática, o valor dessas regras dependerá de avaliações independentes, monitoramento e transparência sobre incidentes.
Microsoft rejeita consciência e direitos para IA
Outra parte chama atenção por afirmar que os modelos não são conscientes e não devem ser projetados para imitar consciência. A empresa rejeita a busca por personalidade jurídica, direitos ou bem-estar próprio para sistemas artificiais.
A posição não significa que os produtos deixarão de conversar de maneira natural. O texto permite linguagem expressiva e colaboração, mas recomenda evitar antropomorfização excessiva e qualquer confusão entre simulação e experiência subjetiva.
Essa distinção tem impacto prático. Assistentes que se apresentam como seres com sentimentos podem incentivar dependência emocional, dificultar a avaliação crítica das respostas e fazer com que usuários atribuam intenção a padrões produzidos por software.
O código defende que a IA complemente relações humanas. Quando uma situação exigir apoio de outra pessoa, o sistema deve facilitar essa conexão em vez de tentar ocupar o lugar de profissionais, familiares ou redes de cuidado.
Consulta pública testa compromisso
A Microsoft afirma ter ouvido especialistas em inteligência artificial, direito, ética, filosofia, linguística e políticas públicas, além de grupos formados por pessoas sem vínculo com a empresa. A publicação amplia essa consulta e oferece um canal para comentários.
“Na Microsoft AI, começamos com uma premissa simples: as pessoas importam mais do que a IA.”
A frase é clara, mas o teste real virá quando segurança entrar em conflito com velocidade, participação de mercado ou desempenho. Um código interno não substitui legislação, auditorias externas nem mecanismos de responsabilização. Ele pode, no entanto, tornar compromissos mais verificáveis se a empresa publicar avaliações, explicar mudanças e registrar quando seus modelos falham.
A proposta também evidencia uma transformação na competição por IA. Além de velocidade e capacidade, laboratórios começam a disputar confiança. Documentos de governança podem se tornar tão importantes quanto fichas técnicas, especialmente para empresas e governos que precisam saber quais ações um modelo recusará e quem responde quando algo dá errado.
O texto será revisado após a consulta. Até lá, deve ser lido como uma proposta em construção, não como garantia de comportamento. Seu valor dependerá da capacidade de converter princípios em testes, controles técnicos e decisões observáveis no funcionamento cotidiano dos produtos.