Após a investigação de uma série de abusos envolvendo o uso de Inteligência Artificial nos EUA, como um homem de Michigan que foi acusado injustamente de fraude e teve que pedir falência; ferramentas automatizadas de triagem que prejudicam desproporcionalmente as pessoas de cor que querem comprar ou alugar um imóvel; usuários negros do Facebook que foram submetidos a mais abusos do que usuários brancos; sistemas automatizados que sinalizaram pessoas com pele escura com mais frequência por trapacear em testes, etc., a Câmara Municipal de Nova York aprovou uma lei que exige auditorias de algoritmos usados por empregadores em contratações ou promoções.
A lei, Int 1984-2020, primeira do gênero no país, exige que os empregadores tragam pessoas de fora para avaliar se um algoritmo exibe viés baseado em sexo, raça ou etnia. Os empregadores também devem dizer aos candidatos que vivem em Nova York, quando a inteligência artificial desempenha um papel na decisão de quem é contratado ou promovido.
Os autores da legislação sugerem que os auditores de algoritmos busquem formas mais colaborativas de envolver comunidades e sociedade na avaliação de sistemas de IA.
Em Washington, DC, membros do Congresso estão elaborando um projeto de lei que exigiria que as empresas avaliassem sistemas automatizados de tomada de decisão usados em áreas como saúde, moradia, emprego ou educação, e reportem as conclusões à Comissão Federal de Comércio; três dos cinco membros da FTC apoiam uma regulação mais forte dos algoritmos.
Seguiremos acompanhando as próximas legislações sobre a temática!!
Fontes: https://legistar.council.nyc.gov/LegislationDetail.aspx?ID=4344524&GUID=B051915D-A9AC-451E-81F8-6596032FA3F9&Options=ID
https://www.wired.com/story/movement-hold-ai-accountable-gains-steam/
Comments