As Bancadas Feministas do PSOL na Câmara Municipal e na Assembleia Legislativa de São Paulo entraram com uma ação no Ministério Público estadual para pedir a investigação de uma série de falhas de identificação cometidas pelo sistema Smart Sampa, da gestão do prefeito Ricardo Nunes (MDB).
A ação cita três casos de equívocos divulgados nos últimos meses pela imprensa, como o caso de um jardineiro de Cidade Tiradentes, no extremo leste da capital paulista, que ficou dez horas detido pela polícia ao ser confundido com um procurado pela Justiça.
As parlamentares do PSOL apontam que os algoritmos das câmeras que identificam possíveis criminosos têm falhas, principalmente quando se tratam de rostos negros, de mulheres e de pessoas trans, o que amplia a ocorrência de erros contra essas populações.
“Boa parte desses algoritmos foram treinados a reconhecer rostos a partir de bancos de dados em que não há pessoas racializadas, e nem mesmo mulheres, ou pessoas trans, de maneira representativa, resultando em maior dificuldade para algoritmo criar uma assinatura facial acurada para essas populações”, diz a ação.
As bancadas paulistas também citam experiências internacionais em que modelos semelhantes foram rejeitados, nos EUA e na Europa.
Ver essa foto no Instagram