Uma das maiores dificuldades neste momento é construir uma inteligência artificial que se alinhe aos valores humanos. Pensando nisso, pesquisadores da DeepMind do Google criaram um software chamado “Democratic IA”.
No software, o aprendizado por reforço é utilizado para configurar um sistema social que determina o que os humanos preferem majoritariamente. Os dados de treinamento da “Democratic IA”, foram retirados de um grande grupo de pessoas que jogaram um jogo de investimento online.
A IA foi capaz de identificar e corrigir um desequilíbrio inicial de riqueza no jogo de investimento, além de ter punido os free-riders. Ao gerar a otimização para as preferências humanas, a inteligência artificial democrática ofereceu uma prova de conceito para a inovação política alinhada a valores.
Seguiremos acompanhando!
Fonte: https://www.ihu.unisinos.br/categorias/620184-inteligencia-artificial-democratica-software-em-vez-da-politica-artigo-de-paolo-benanti
Comments