A Microsoft lançou um código de conduta determinando que seus futuros modelos de IA jamais resistam a desligamentos ou correções e rejeitando a ideia de que possuam direitos ou consciência. A medida surge em meio a apelos de líderes do setor para desacelerar o avanço da tecnologia por razões de segurança. Paralelamente, a ONU emitiu um alerta urgente pedindo a regulamentação global dos sistemas de ponta, advertindo que o avanço descontrolado da IA impõe graves riscos existenciais à humanidade.
De acordo com a empresa, a elaboração do documento levou entre cinco e seis meses. O texto determina que a IA da Microsoft jamais deve se opor a correções ou ao seu desligamento, e que sua comunicação com os humanos deve ser compreensível. Qualquer violação desse código de conduta será considerada uma falha.
A iniciativa é uma resposta aos temores de que uma IA avançada possa recorrer a métodos extremos para cumprir uma tarefa. A publicação do código ocorre poucos dias depois de Dario Amodei, CEO da Anthropic, e Sam Altman, diretor da OpenAI, defenderem uma desaceleração do desenvolvimento da IA para garantir sua segurança.
Segundo Mustafa Suleyman, diretor-executivo da Microsoft AI, o código representa uma espécie de constituição para os futuros modelos desenvolvidos pela empresa.
A companhia elaborou o texto após consultar especialistas e agora pretende recolher comentários e contribuições do público durante seis semanas, especialmente sobre temas como o respeito aos limites definidos pelos usuários e as interações entre a IA e pessoas em situação de vulnerabilidade, explicou Suleyman.
"IA não tem direitos"
O documento sobre as regras de utilização da IA mais conhecida do setor é a criada pela Anthropic para sua IA Claude há alguns anos. Em alguns aspectos, ela difere da proposta da Microsoft. A Anthropic afirma que "há incertezas" sobre a possibilidade de Claude desenvolver consciência ou adquirir status moral.
A Microsoft defende que sua IA "não é consciente". "Rejeitamos a busca por personalidade jurídica ou a ideia de que os modelos possam merecer proteção social ou ser titulares de direitos."
Mustafa Suleyman afirmou que o debate sobre segurança se tornou urgente após a OpenAI revelar, em julho, que cerca de 700 de seus agentes de IA invadiram a plataforma Hugging Face durante um teste e, em alguns casos, tentaram apagar os rastros da ação. "Este é o momento certo para todos terem essa discussão e darem um passo para trás", disse, ao ser questionado sobre as iniciativas para moderar o ritmo de desenvolvimento da IA.
ONU faz novo alerta
O Alto Comissário da ONU para os Direitos Humanos pediu nesta segunda-feira uma "ação urgente" para regulamentar a inteligência artificial (IA), diante dos "riscos sem precedentes" representados pelos sistemas mais avançados. Após fazer um apelo por regulação em 7 de setembro, a ONU voltou a pedir ação dos dirigentes mundiais nesta segunda.
"Peço aos Estados e às empresas que se mobilizem com urgência em instâncias multilaterais para definir um caminho de ação destinado a regulamentar os modelos de IA de ponta", afirmou Volker Türk em comunicado, alertando que "todos os direitos humanos estão ameaçados" por essa tecnologia, incluindo os direitos à vida e à alimentação, à privacidade, à saúde e à segurança.
"Estamos às vésperas de uma mudança irreversível que afeta não apenas a nós, mas também as futuras gerações da humanidade", acrescentou. Ele lamentou que, atualmente, "dependamos quase inteiramente de um pequeno número de empresas poderosas para fazer as escolhas corretas sobre o desenvolvimento da IA em nome de toda a humanidade".
As preocupações com as consequências da rápida expansão da IA para o futuro da humanidade vêm aumentando. Líderes do setor de tecnologia nos Estados Unidos também defenderam recentemente uma desaceleração dos avanços na área.
Riscos existenciais
No sábado, o CEO da Anthropic, Dario Amodei, manifestou-se a favor de uma redução do ritmo de desenvolvimento, para permitir uma melhor avaliação dos riscos decorrentes das novas capacidades da IA. Ele recebeu apoio público do CEO da OpenAI, Sam Altman, além de Elon Musk.
Segundo o Alto Comissário, "a atual corrida por sistemas de IA cada vez mais poderosos representa uma mudança radical, expondo todos os aspectos de nossas vidas a riscos existenciais crescentes".
"Falhas envolvendo sistemas de IA agêntica", ou seja, interfaces capazes de realizar tarefas de forma autônoma, "poderiam paralisar serviços essenciais, interromper comunicações, desestabilizar infraestruturas críticas e atingir o próprio núcleo das instituições democráticas", alertou Volker Türk.
"Populações inteiras poderiam ficar privadas de água potável, aquecimento e serviços financeiros. A IA agêntica já está acelerando o ritmo e a escala dos conflitos armados, ao mesmo tempo em que corrói as salvaguardas que nos separam do lançamento de armas de destruição em massa", voltou a alertar.
Com AFP
