Por Joi Ito
Grande parte das pesquisas sobre inteligência artificial (IA) hoje se concentra no aprendizado das máquinas, ou seja, os engenheiros as “treinam” para aumentar a inteligência coletiva de nossos governos, mercados e sociedades. Essa versão “estendida” (IE) provavelmente se tornará a forma dominante. Só que há um problema: os algoritmos que a criam são treinados por humanos e, consequentemente, podem propagar as mesmas tendenciosidades que atingem a sociedade, perpetuando-as sob a ilusão de "inteligência". Veja, por exemplo, os algoritmos de previsão de policiamento usados para determinar quais os bairros devem ser mais vigiados por causa das atividades criminais, ou quem deve ser classificado como terrorista. A menos que usemos uma base ética e moral, a tecnologia que deveria melhorar o nosso bem-estar, pode, de fato, ampliar os piores aspectos de nossa sociedade.
O uso bem-intencionado de tecnologias em desenvolvimento pode dar errado. Em 2003, fui um dos autores de um trabalho que previa que uma internet aberta teria um papel significativo na democratização das sociedades e na instauração da paz. Mais tarde, nos primórdios da Primavera Árabe, a impressão foi a de que a rede tinha, de fato, ajudado a começar o levante – mas conforme ela se torna um espaço cada vez mais tomado pelo preconceito e pela trollagem maliciosa, além de se tornar plataforma para organizações como o Estado Islâmico avançarem sua onda de ódio, fico imaginando o que foi que deu errado. Tenho o mesmo tipo de preocupação em relação ao desenvolvimento e uso da IE.
É absolutamente essencial desenvolver um modelo de evolução para o desenvolvimento de nossa ética, governo, sistema educacional e mídia na era da inteligência da máquina. Temos de dar início a uma discussão mais ampla e mais profunda sobre como a sociedade se desenvolverá junto com essa tecnologia, bem como montar um novo tipo de ciência da computação que seja não só "inteligente", mas também responsável socialmente. Se permitirmos que a IE se desenvolva sem um direcionamento cuidadoso da forma como se integra e afeta a sociedade, ela pode ampliar tendências e entidades perigosas. E talvez percebamos isso só quando for tarde demais.
(Joi Ito é o diretor do Media Lab do MIT, laboratório de pesquisas dedicado à integração da tecnologia com a arte e o design.)