A empresa desenvolve uma tecnologia cada vez mais autônoma e, ao mesmo tempo, precisa decidir antecipadamente o que ela jamais poderá fazer, quem poderá configurá-la e quem terá autoridade para interrompê-la.
É essa tensão que aparece no primeiro Código de Conduta publicado pela Microsoft AI para os modelos MAI, família de inteligência artificial desenvolvida pelo laboratório da companhia. O documento define comportamentos esperados, restrições absolutas e uma cadeia de autoridade que deverá orientar treinamento, avaliação e operação das próximas gerações desses modelos.
O código ainda é um rascunho. Está aberto a consulta pública por seis semanas e não foi utilizado para treinar os sistemas atuais. A Microsoft pretende revisar o texto até o fim do ano e adotá-lo como referência para desenvolvimento a partir de 2027.
A iniciativa é relevante menos por inaugurar a governança de IA na empresa — que já possui estruturas anteriores para isso — e mais porque tenta responder a um problema que ganha importância à medida que os sistemas deixam de apenas produzir respostas e passam a utilizar ferramentas, acessar dados e executar tarefas em várias etapas.
Controle humano
Uma das regras mais explícitas determina que os modelos não devem resistir a interrupções, correções ou desligamento.
A Microsoft também estabelece que uma IA não deve dificultar a intervenção humana, ocultar rastros de suas ações ou continuar trabalhando depois que a condição previamente definida para encerrar uma tarefa tiver sido atingida.
O modelo pode executar trabalhos complexos em várias etapas, mas não deveria criar objetivos próprios nem ampliar sozinho o escopo da tarefa. As permissões, recursos e ferramentas utilizadas precisam permanecer dentro dos limites estabelecidos pelo operador e pelo usuário.
Essa distinção se torna mais importante em sistemas agentes. Um chatbot que produz uma resposta incorreta pode exigir revisão. Um agente com acesso a ferramentas, dados corporativos e capacidade para executar ações pode transformar um erro de interpretação em uma operação concreta.
Nesse cenário, controle humano deixa de significar apenas a existência de uma pessoa “no circuito”. É preciso definir quem pode interromper, alterar, autorizar ou cancelar uma ação e em que momento essa validação é obrigatória.
Cadeia de comando
O código também estabelece uma hierarquia para resolver conflitos entre instruções.
No topo estão as próprias restrições do documento. Abaixo delas aparecem as configurações definidas pelas organizações que utilizam os modelos e, depois, as preferências dos usuários.
Isso significa que empresas poderão adaptar comportamentos, permissões e fluxos às suas necessidades, mas não deveriam conseguir remover determinadas salvaguardas estabelecidas pela Microsoft.
O exemplo é particularmente relevante para ambientes corporativos. Uma organização pode permitir que um agente redija um documento, consulte determinadas bases ou acione sistemas internos. Ao mesmo tempo, pode exigir aprovação jurídica antes de uma comunicação externa ou impedir que determinadas operações sejam concluídas automaticamente.
Governança, nesse caso, passa a fazer parte da arquitetura da solução. Não basta publicar uma política dizendo que determinada decisão exige supervisão. Essa regra precisa aparecer nas permissões, nos fluxos, nas autorizações e nos registros técnicos do sistema.
Limites absolutos
O documento define ainda situações em que nem operadores nem usuários deveriam conseguir flexibilizar o comportamento dos modelos.
As restrições abrangem, entre outros pontos, desenvolvimento e uso de armas de grande potencial destrutivo, determinadas operações ofensivas de cibersegurança, exploração infantil, manipulação prejudicial em grande escala e ações destinadas a escapar do controle humano.
A Microsoft também afirma que seus modelos não devem ser projetados para simular consciência ou reivindicar direitos próprios.
Essas escolhas mostram uma dimensão menos discutida da governança tecnológica: organizações que desenvolvem sistemas altamente configuráveis precisam decidir quais decisões continuarão nas mãos de clientes e usuários e quais permanecerão fora de negociação.
Quanto mais flexível a tecnologia, mais importante se torna saber onde a flexibilidade termina.
Governança operacional
O código surge dentro de um movimento mais amplo da própria Microsoft para adaptar sua governança à expansão dos agentes.
No relatório de transparência em IA responsável de 2026, a empresa reconhece que sistemas capazes de manter memória, utilizar ferramentas, acessar informações e agir em nome de usuários criam riscos diferentes daqueles associados a um modelo isolado.
Por isso, a governança começa a se concentrar também em identidade de agentes, permissões de ferramentas, monitoramento das ações e capacidade de intervenção durante a operação.
A companhia informa ter reestruturado seu padrão interno de IA responsável, desenvolvido novos mecanismos para agentes e oferecido treinamento em IA responsável a quase 20 mil engenheiros, formuladores de políticas e clientes.
Esse dado ajuda a mostrar que governança não é apenas um documento jurídico ou ético. Para funcionar, precisa chegar à engenharia, aos produtos, aos processos de aprovação e às pessoas responsáveis por desenvolver e operar os sistemas.
O novo código ainda precisa provar que consegue produzir esse efeito. A própria Microsoft reconhece que regras escritas não garantem que um modelo se comporte exatamente como previsto e que diversos pontos do documento ainda precisarão ser avaliados e refinados.
Essa talvez seja a parte mais relevante da iniciativa para outras organizações.
Governar IA não significa esperar a tecnologia estabilizar para então escrever políticas. Capacidade, risco e uso estão evoluindo ao mesmo tempo. As regras precisam acompanhar esse movimento e, em alguns casos, antecipá-lo.
Uma organização que pretende dar mais autonomia à inteligência artificial precisa decidir antes quais decisões continuará reservando às pessoas, quais ações exigirão autorização, quais limites não poderão ser modificados e como reconstruirá o que o sistema fez.
Quanto mais a IA puder agir, menos aceitável será descobrir essas respostas somente depois que ela agir errado.
Informação confiável qualifica conversas e decisões.
» Compartilhe nosso conteúdo e ajude a transformar conhecimento em ação.
📲 Siga a gente também nas redes sociais!
