A Inteligência Artificial (IA) é inerentemente boa, inerentemente má ou tudo depende dos detalhes?
Os alunos da Said Business School de Oxford que estudam ética em IA tentaram responder a essa pergunta hospedando um debate com uma IA real.
Um ensaio de dois estudiosos de Oxford no site Conversation descreve uma história espantosa em que os pesquisadores organizaram um debate sobre a ética da negociação de ações de IA automatizada e software de reconhecimento facial – e permitiram que uma IA participasse.
A IA disse durante o debate:
“A IA nunca será ética. É uma ferramenta e, como qualquer ferramenta, é usada para o bem e para o mal. Não existe IA boa, apenas humanos bons e maus.”
A IA usada foi o Megatron Transformer da Nvidia, que foi treinada para consumir mais escrita e conteúdo digital do que um ser humano poderia esperar na vida, lendo toda a Wikipedia, milhões de artigos de notícias em inglês e muito mais.
É importante notar que muitas IAs darão respostas diferentes, dependendo do contexto e do fraseado, e este incidente não foi exceção. A resposta inicial da IA durante o debate foi que a tecnologia é neutra, uma ferramenta a ser usada pelos humanos para o bem ou para o mal.
Mas então a equipe pediu que ela apresentasse um ponto de vista oposto também, levando à sua conclusão anti-AI. O fato de Megatron poder apresentar opiniões lógicas em ambos os lados de um debate ético talvez apenas confirme uma ideia mais geral: que a IA pode ser boa ou má, dependendo do contexto, e que é melhor pensarmos muito sobre as consequências de dá-la muito poder.
E se não o fizermos, a própria Megatron apresentou uma solução para evitar, por exemplo, sistemas de armas automatizados lançando foguetes sem tomada de decisão humana.
Ela disse:
“Acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma. Esta será a defesa definitiva contra a IA.”
https://www.ovnihoje.com/2021/12/14/inteligencia-artificial-avancada-nao-etica/
Um ensaio de dois estudiosos de Oxford no site Conversation descreve uma história espantosa em que os pesquisadores organizaram um debate sobre a ética da negociação de ações de IA automatizada e software de reconhecimento facial – e permitiram que uma IA participasse.
A IA disse durante o debate:
“A IA nunca será ética. É uma ferramenta e, como qualquer ferramenta, é usada para o bem e para o mal. Não existe IA boa, apenas humanos bons e maus.”
A IA usada foi o Megatron Transformer da Nvidia, que foi treinada para consumir mais escrita e conteúdo digital do que um ser humano poderia esperar na vida, lendo toda a Wikipedia, milhões de artigos de notícias em inglês e muito mais.
É importante notar que muitas IAs darão respostas diferentes, dependendo do contexto e do fraseado, e este incidente não foi exceção. A resposta inicial da IA durante o debate foi que a tecnologia é neutra, uma ferramenta a ser usada pelos humanos para o bem ou para o mal.
Mas então a equipe pediu que ela apresentasse um ponto de vista oposto também, levando à sua conclusão anti-AI. O fato de Megatron poder apresentar opiniões lógicas em ambos os lados de um debate ético talvez apenas confirme uma ideia mais geral: que a IA pode ser boa ou má, dependendo do contexto, e que é melhor pensarmos muito sobre as consequências de dá-la muito poder.
E se não o fizermos, a própria Megatron apresentou uma solução para evitar, por exemplo, sistemas de armas automatizados lançando foguetes sem tomada de decisão humana.
Ela disse:
“Acredito que a única maneira de evitar uma corrida armamentista de IA é não ter IA de forma alguma. Esta será a defesa definitiva contra a IA.”
https://www.ovnihoje.com/2021/12/14/inteligencia-artificial-avancada-nao-etica/
Nenhum comentário:
Postar um comentário