O que é ser humano? O que há em nós que poderia nos descrever de "especificamente humanos"? 

O animismo tecnológico contracultural das 'Fabulosas Máquinas Rebeldes'

Segundo pesquisa desenvolvidas pela IBM, no período de cinco anos, o crescente número de sistemas e algoritmos tendenciosos de IA aumentará. A Inteligência Artificial está se tornando cada vez mais sofisticada, com sistemas computacionais cada vez mais baratos, mais poderosos e com armazenamento em nuvem. Além disso, mais empresas têm agilizado e facilitado a construção de modelos (Google AutoML, Watson), e cada vez mais se tem construído aplicativos equipados com AI. Muitos desses sistemas de IA são treinados usando dados tendenciosos. Dados incorretos podem conter preconceitos raciais, de gênero ou ideológicos implícitos. Os dados que a maioria das pessoas usa para treinar seus modelos de Inteligência Artificial já vem com um viés embutido. Até grandes empresas de tecnologia usam dados tendenciosos para treinar seus modelos. Além disso, muitas empresas não colocam os "testes de viés" como parte de seu ciclo de desenvolvimento, ou então usam dados históricos que já possuem um viés de origem.

Muitos sistemas de IA continuarão sendo treinados usando dados ruins, tornando esse um problema contínuo. O problema não é totalmente novo. Em 1988, a Comissão Britânica para a Igualdade Racial considerou uma escola médica britânica culpada de discriminação. O programa de computador que estava usando para determinar quais os candidatos serão convidados para entrevistas foi determinada para ser tendenciosa contra as mulheres e aqueles com nomes não-europeus. Trinta anos depois, os algoritmos se tornaram consideravelmente mais complexos, mas continuamos a enfrentar o mesmo desafio. A IA pode ajudar a identificar e reduzir o impacto de vieses humanos, mas também pode piorar o problema incorporando e implantando vieses em escala em áreas de aplicação sensíveis e de uma forma muito rápida. Por exemplo, o site de notícias investigativas ProPublica descobriu, um algoritmo de justiça criminal usado em Broward Country, na Flórida, que classificou os réus afro-americanos como "de alto risco" com quase o dobro da taxa em que classificou os réus brancos. Outra pesquisa descobriu que o treinamento de modelos de processamento de linguagem natural em artigos de notícias pode levá-los a exibir estereótipos de gênero. A tendência pode se infiltrar nos algoritmos de várias maneiras.   

Uma IA capaz de praticar sutilesas

Os sistemas de IA aprendem a tomar decisões com base em dados de treinamento, que podem incluir decisões humanas tendenciosas ou refletir desigualdades históricas ou sociais, mesmo que variáveis sensíveis como gênero, raça ou orientação sexual sejam removidas. A Amazon usava um algoritmo de contração que favorecia os candidatos com base em palavras como "executado" ou "capturado". Outra fonte de viés é a amostragem de dados defeituosos, na qual os grupos são super ou sub-representados nos dados de treinamento. Por exemplo, Joy Buolamwini, do MIT, trabalhando com Timnit Gebru, encontrou que as tecnologias de análise facial apresentaram taxas de erro mais altas para as minorias e, principalmente, para as mulheres, potencialmente devido a dados de treinamento não representativos.

A existência de vieses chegam a ser assustador. Câmeras alimentadas por Inteligência Artificial que não conseguem detectar peles negras. Em alguns casos, dá a informação errada e, em outros, falha em detectar completamente. Dessa forma, coisas pequenas, como uma válvula de sabonete líquido automático, podem não funcionar nesses casos. E coisas mais importantes, como privar uma pessoa de sua liberdade e ou participação social.

Mais de 180 vieses humanos foram definidos e classificados, e qualquer um deles pode afetar a maneira como tomamos decisões. Os preconceitos encontram seu caminho nos sistemas de IA que projetamos e são usados para tomar decisões por muitos, de governos a empresas. Dados ruins usados para treinar a IA podem conter preconceitos raciais, de gênero ou ideológicos implícitos. O viés nos sistemas de IA pode corroer a confiança entre humanos e máquinas que aprendem.

Viés é de toda a nossa responsabilidade. É cruel e doloroso para as pessoas discriminadas, e também é prejudicial a todos e todas, reduzindo a capacidade das pessoas de participar da economia e da sociedade.

O que é ser humano? O que há em nós que poderia ser qualificado de "especificamente humanos"? Essa é uma questão que norteia o trabalho de David da Paz, através do presente projeto, mas que também permeia diversas disciplinas e áreas como as ciências sociais e humanas, da cibernética a robótica, mais um princípio crucial, tanto para humanos quanto para máquinas, é evitar preconceitos e, portanto, evitar discriminação. O viés no sistema de IA ocorre principalmente nos dados ou no modelo algorítmico. 

O viés pode ser domado e os sistemas de IA que compõem as "Fabulosas Máquinas Rebeldes de David da Paz" enfrentarão o viés, e portanto, com toda rebeldia maquínica, elas serão bem-sucedidas nessa grande aventura ontológica, entre as artes, as ciências e as tecnologias, que consiste no desenvolvimento de criaturas e sistemas artificiais como obras de arte, capazes de praticar sutilezas e causar estranhamento no ambiente na alma.

 O Monolítico Mnemônico é uma obra de arte que se utiliza de experiências sensoriais para aproximar o humano e a tecnologia através da interação entre as duas esferas, desde a sua ativação, que só acontecia quando alguém se aproximava.
A mineração de dados acontece com a nossa interação cotidiana com a tecnologia e, assim, somos mapeados por completo, em um contexto de exploração, controle e opressão. Em contrapartida, o Monolítico usa a mineração de dados para falar de direitos e valores humanos, amalgamando tecnologia e arte para explorar milhões de possibilidades, entre elas descolonizar as significações dominantes.

Essas provocações e reflexões resultantes do encontro entre o coletivo Minimum (David da Paz e Patricia Passos) e do curador Daniel Lima durante a 9ª Mostra 3M de Arte/Manifesto por Outros Mundos Possíveis .