Potencialidades e mal-entendidos relacionados à inteligência artificial
Opinião de nove especialistas sobre como podemos pensar melhor sobre a IA
Publicado em 15/07/2024
Atualizado às 12:08 de 15/07/2024
O que pode fazer por nós a inteligência artificial (IA)? Para quais áreas pode ela trazer impactos positivos? E o que não se entende bem quando se fala em IA? Agregamos, em torno dessas questões, a ótica de vários especialistas, entre pesquisadores, gestores de instituições envolvidas com o tema, artistas e comunicadores. Neste conjunto de ideias, destaca-se a necessidade de entender como funcionam essas ferramentas e enfatiza-se que a agência e a capacidade crítica são fundamentais para garantir que operem bem.
Veja também:
>> Maria Homem, a inteligência artificial e o enigma do desejo de saber
As entrevistas para esta matéria foram feitas com participantes das mesas e pessoas do público do ciclo de debates Inteligência artificial em educação e cultura: estratégias para combater desigualdades, realizado pela Fundação Itaú em maio deste ano. As mesas podem ser vistas na íntegra no YouTube (1 e 2, aqui; 3 e 4, aqui).
Dora Kaufman
jornalista e autora do livro Desmistificando a inteligência artificial
Uma potencialidade é de fato poder ajudar a gente. Diferente de todas as tecnologias, a IA generativa – já tem pesquisas provando isso –, proporcionalmente, está ajudando mais os menos qualificados. Porque ela ajuda quem tem dificuldade de escrever, quem tem dificuldade de criar uma peça imagética, uma imagem.
Agora ao que você tem que estar atento: é uma tecnologia extraordinária, mas é muito limitada, então você tem que checar sempre, não pode usar o resultado que ela entrega o considerando como absoluto. Você tem que ter certo conhecimento do assunto quando está interagindo, por exemplo, com o ChatGPT, para poder fazer os ajustes, identificar no que ele está errando, “alucinando”, como se diz.
No estágio em que está hoje a IA, ela é um parceiro do especialista humano e não uma entidade soberana autônoma. Esse é o mal-entendido: você considerar que ela é soberana, que o resultado é o resultado final.
Fabio Cozman
diretor do Centro de Inteligência Artificial da Universidade de São Paulo (C4AI/USP)
Acredito que o objetivo da área de IA é fornecer aos seres humanos ferramentas que aumentem a nossa produtividade, que retirem da nossa carga aquelas atividades repetitivas que não temos real interesse em fazer. Então, espero que o futuro da IA seja um futuro colaborativo com o ser humano e que nos traga um alívio. Por outro lado, como toda tecnologia, obviamente a IA traz riscos.
Existe o risco de falhas que causem acidentes – isso precisa ser regulado, controlado, o projeto precisa ser bem-feito. Existe a questão de a IA, talvez, invadir a privacidade. Existe a possibilidade de ela tomar decisões e deixar o usuário à margem – isso também tem que ser objeto de um acordo social. Existe o risco de tornar o mercado de trabalho muito confuso e muito desigual. Para evitar que essa influência seja negativa, a sociedade tem que reagir, que criar programas de treinamento para que as pessoas se sintam familiarizadas com essa tecnologia e consigam usá-la e ser beneficiadas, e não substituídas por ela.
Fabro Steibel
diretor-executivo do Instituto de Tecnologia e Sociedade (ITS Rio)
O maior potencial da IA é encontrar padrões naquilo em que os humanos não conseguem encontrar. Então o aumento de eficiência, de produtividade, está muito associado ao uso da IA, porque há problemas que a gente resolve melhor com ela.
Isso pode significar mais acesso a saúde e educação, mais produtividade e mais empregos. Para isso, é importante que a gente tenha uma regulação que favoreça bons usos e restrinja usos abusivos ou que possam ser danosos à sociedade.
Não há nada melhor do que uma tecnologia que possa aumentar a capacidade do ser humano, mas, para que isso aconteça, é fundamental pensar essa tecnologia como algo complementar às atividades que temos hoje.
Fernando Velázquez
artista e curador
Acho que um ponto crucial é entender que os computadores, pelo menos hoje, não são conscientes e não têm propósitos. Os computadores estão ali para, de certa maneira, servir e auxiliar os humanos, trabalhar junto para compreendermos e resolvermos os nossos desejos, anseios, sonhos de cosmovisões de sociedade.
O perigo é cair no tecnossolucionismo, achar que a tecnologia pode resolver todo e qualquer problema humano. Isso não é verdade. Há muitos problemas que são problemas humanos, que têm que ser resolvidos por humanos e entre humanos, não com máquinas.
O perigo de a gente se tornar refém do tecnossolucionismo é uma realidade e acho que a gente tem que ficar atento, somando todas as áreas de conhecimento e todos os estratos sociais. Devemos contribuir ativamente para educar esses algoritmos para que respondam realmente aos nossos interesses. Esse é o grande desafio.
Guilherme Almeida de Almeida
diretor de programa da Secretaria Extraordinária para a Transformação do Estado (Sete), do Ministério da Gestão e da Inovação em Serviços Públicos
O potencial da IA é inúmero em diversas áreas. Cada vez mais a gente enxerga isso nos campos produtivo e criativo – tem os modelos de linguagem, de artes etc. –, mas tem um poder da IA talvez menos visível, embora tão importante quanto, que é o de identificar padrões, detectar comportamentos e verificar coisas que estão fora de uma visão humana.
Conseguir, por exemplo, em uma análise de 1 milhão de radiografias, encontrar um jeito mais fácil, claro e preciso de detectar um câncer nascente, significa salvar milhares ou milhões de vidas a partir do uso da tecnologia.
Acho que um mal-entendido muito comum – e que é até engraçado – é que as pessoas falam que a IA “errou”. Quando a gente fala de IA gerativa (ou generativa), muitas vezes está falando da criação de uma resposta, e não de uma resposta a uma pergunta.
A gente tem que ter consciência de que o papel da IA gerativa é encontrar a próxima palavra mais provável numa resposta supostamente certa, e não dar uma resposta a uma pergunta. Quando a gente fala “inteligência”, parece que a máquina pensa, mas o que ela faz é encontrar probabilidades numa escala de cálculo impensável para o padrão humano. Saber disso faz a gente perceber o mecanismo de funcionamento e, a partir daí, encontrar reflexões e cuidados necessários para o uso da IA.
Rejane Cantoni
artista e pesquisadora de sistemas de informação
Para mim, o primeiro mal-entendido é não entender que a tecnologia é fruto do nosso desenvolvimento, da nossa evolução. Os humanos constroem linguagens, máquinas de ver, máquinas de viajar. A gente vai à Lua – e essa construção é nossa.
A tecnologia é fruto de desenvolvimento científico, artístico e tecnológico. E, no fim das contas, isso significa o quê? Uma criança com um sonho, uma pessoa que observa, que olha a natureza e fala: “E se eu mudasse isso um pouquinho? O que poderia acontecer?”.
Então, entender a tecnologia fora de nós, para mim, é um problema; pensá-la como uma coisa absolutamente nova também. Porque esta viagem, esta busca, este desejo de conhecer o que é o corpo humano, de se estender – quando falo ao microfone, o que estou fazendo? Estou falando à distância. Quando eu vejo televisão, o que estou vendo? Estou televendo, estou vendo à distância. Nós estamos amplificando os nossos sentidos, estamos nos expandindo.
Levou um tempo para construir uma máquina que é capaz de processar informações, o computador. Agora que temos essa máquina, estamos encontrando maneiras de simular o nosso pensamento. O que temos hoje como algoritmo são alguns aspectos do pensamento que estamos conseguindo elaborar.
Temos a ajuda de máquinas para fazer isso – e isso vai mudar muita coisa, não estamos mais sozinhos, temos tecnologias criando tecnologias, e isso é muito impactante.
Renata Mielli
coordenadora do Comitê Gestor da Internet no Brasil (CGI.br)
A IA é uma tecnologia que, como ferramenta de auxílio ao ser humano e à sociedade para enfrentar problemas, traz muitas oportunidades.
Imagine ter modelos de IA aplicados na saúde que possam enfrentar doenças endêmicas, próprias do Brasil – e de regiões remotas do Brasil, onde as empresas farmacêuticas não têm muito interesse em desenvolver tecnologia.
Os mal-entendidos na IA são muitos, mas me vem um primeiro à cabeça: as pessoas compreenderem que ela não é, na verdade, uma ferramenta inteligente do modo como a gente compreende a inteligência humana. A IA é um conjunto de instruções, de algoritmos de uma programação que gera resultados a partir de probabilidades estatísticas.
Então as pessoas precisam saber que não estão se relacionando com um ser inteligente autorreferenciado por trás do prompt, estão se relacionando com um algoritmo, uma máquina, uma programação. Saber diferenciar isso é fundamental.
Acho que este é um mal-entendido: usar palavras que são características de atributos humanos para a tecnologia. A IA não alucina, ela erra, comete erros, não tem atributos de seres humanos. Essa é a principal questão que a gente precisa massificar para que as pessoas tenham uma visão crítica sobre a tecnologia.
Silvana Bahia
comunicadora e empreendedora social
Acho que a IA tem potencial para a gente construir um bem comum, e não só como uma ferramenta, um nicho de mercado. Essa é a utopia quando a gente pensa sobre a IA e suas potencialidades. E acho que isso acontece quando a IA nos estimula a fazer perguntas, quando faz com que a gente desenvolva um senso crítico.
Pensando nos mal-entendidos que ela pode trazer, acho que tem uma tendência, talvez – se ela ficar só nessa visão mercadológica –, de pasteurizar tudo. Na IA generativa, por exemplo, a gente atende bancos de dados que trazem respostas muito prontas. Então há, aí, um perigo de acabar não valorizando a diversidade, por exemplo, que o Brasil tem.
E também tem outro desafio quando a gente pensa em IA, que tem a ver com o aumento das desigualdades. A gente não pode deixar que essa tecnologia aumente desigualdades que existem muito antes de ela chegar. Mas, quando ela é colocada de cima para baixo, com pouco senso crítico e pouca participação de grupos diversos, há uma tendência de termos desafios que alargam as nossas desigualdades.