Por favor, não confie na IA para identificar cogumelos

confie na IA para identificar cogumelos
confie na IA para identificar cogumelos

Procurar alimentos silvestres não é uma habilidade que os robôs dominam.

Comer cogumelos selvagens é um hobby notoriamente perigoso. Se você for um especialista em coleta de alimentos, saberá o que cresce em sua região, onde encontrá-lo e como ter certeza absoluta de que encontrou uma espécie comestível em vez de venenosa. Do contrário, você pode acabar comendo cogumelos com nomes como “capuz da morte” e “anjo destruidor”. 

São necessários anos de experiência e um olhar atento aos detalhes para se tornar um especialista na identificação de cogumelos. Não existem regras fáceis para distinguir o bem do mal; os venenosos muitas vezes se parecem muito com os populares e saborosos cogumelos comestíveis . Mas você precisa saber que essa confusão é possível e que você, como iniciante nisso, pode estragar tudo. Junte-se à sociedade local de micologia (estudo de cogumelos) e você poderá começar a aprender com os especialistas. 

Você pode pensar que existe um atalho: você não pode simplesmente baixar um aplicativo? Se o iNaturalist (por exemplo) puder lhe dizer que a árvore de flor branca no quintal do seu vizinho é um dogwood, ele deverá ser capaz de lhe dizer qual cogumelo você encontrou na floresta, certo? Eu não posso.

Aplicativos de cogumelo AI podem literalmente matar você

Em um relatório detalhado no Public Citizen , Rick Claypool, entusiasta de cogumelos selvagens, mostra todas as maneiras pelas quais aplicativos de identificação baseados em IA e guias de campo gerados por IA podem matá-lo ou deixá-lo doente se você confiar neles. 

Ele cita um exemplo do Google Lens identificando um cogumelo apelidado de “o vomitador” como um cogumelo diferente descrito como “comestível de escolha”. (A pessoa que postou a foto ficou muito doente, mas sobreviveu.) Em um incidente ainda mais assustador em 2022, um homem de Ohio usou um aplicativo para confirmar que alguns cogumelos que encontrou eram comestíveis – o aplicativo disse que sim – e acabou no hospital brigando. por sua vida. ( Um tratamento experimental pode ter sido o que o ajudou a sobreviver ; 40% das pessoas que comem cogumelos tóxicos Amanita , o tipo que ele pensa ter comido, acabam morrendo ou precisando de um transplante de fígado.) 

Como aponta Claypool, verdadeiros especialistas em cogumelos vivos não olham para uma foto e dizem “sim, isso é comestível”. Eles vão pedir para ver detalhes da parte inferior e inferior do cogumelo, vão querer saber exatamente onde e quando ele foi encontrado e podem recomendar etapas adicionais para identificação, como fazer uma impressão de esporo . Eles também poderão dizer o quanto têm certeza de sua conclusão. Claypool observa: “Um aplicativo que responde a uma tentativa de identificação com uma resposta vaga ou não comprometedora pode ser percebido como defeituoso em vez de cauteloso”.

Ele também salienta que identificar as espécies não é o único passo para saber se os cogumelos são seguros para consumo: “Os primeiros cogumelos que as forrageadoras novatas encontram são frequentemente cogumelos que estão para além do estado de frescura necessário para um consumo seguro. As forrageiras estão em uma corrida contra mofo, insetos, lesmas e tudo o mais na natureza que come cogumelos. A menos que você conheça os sinais, se um cogumelo está infestado de larvas ou larvas pode não ser óbvio até que seja cortado.”

A IA não é “inteligente” e nunca foi

O termo “inteligência artificial” é uma palavra da moda, um apelido, uma fantasia. Não é uma descrição do que esses aplicativos são ou fazem. É um termo cunhado por cientistas que sonhavam com o que poderia ser possível no futuro e que foi então popularizado na ficção científica. Os criadores de ferramentas como ChatGPT optaram por usá-lo porque parece emocionante e futurista. 

Nunca se esqueça de que o hype da IA ​​é principalmente marketing de grandes empresas de tecnologia que esperam obter dinheiro de outras empresas de tecnologia antes que a bolha estoure. Tudo isso desaparecerá quando as pessoas perceberem que a IA não está realmente fazendo nada de útil para quem se preocupa com o resultado , mas levará um tempo para que os irmãos da tecnologia descubram isso.

O artigo de Claypool apresenta várias coisas que a IA pode aparentemente fazer para a identificação de cogumelos e as falhas mortais em cada uma: 

  • Identificação por foto, por meio de aplicativos de cogumelos : Mesmo um ser humano não consegue identificar todos os cogumelos com certeza por meio de fotos. 
  • Guias criados por IA : descobriu-se que contêm informações incorretas. (Não foi provado de forma conclusiva que os guias em questão foram escritos pela IA, mas com certeza são assim.)
  • Imagens geradas por IA : Quando Claypool testou ferramentas de geração de imagens, eles rotineiramente desenhavam imagens incorretas das características de cogumelos comestíveis e tóxicos e as rotulavam incorretamente. 
  • Descrições de imagens por IA : Especialistas em cogumelos usam terminologia específica para descrever as características dos cogumelos em guias de viagem. Quando Claypool pediu a uma ferramenta de IA para descrever a foto de um cogumelo tóxico, ela disse que o cogumelo tinha “brânquias livres”, quando na verdade tinha guelras anexadas, e errou em outras características de identificação.
  • Resultados de pesquisa resumidos por IA : O Google felizmente forneceu uma receita para cozinhar cogumelos tóxicos, alegando que a fervura pode remover toxinas. (Isso não é verdade.)

As ferramentas de IA que Claypool testou também lançaram pedaços de desinformação aqui e ali no processo, o que implica que os cogumelos tóxicos são coloridos e que os cogumelos coloridos são tóxicos (nenhum dos dois é verdade como regra).

O resultado final para você e para mim? A IA na verdade não “sabe” nada. É melhor considerar esses algoritmos como preditivos: se você fizer uma pergunta, ele escreve uma previsão de como seria a resposta de um especialista a essa pergunta. Às vezes é bom nesse tipo de previsão e às vezes é absolutamente terrível. 

Assim como quando o robô Bender de Futurama preparou uma comida horrível para seus amigos humanos porque não entendia o conceito de sabor, a IA produz textos ou imagens que superficialmente se parecem com o que ela pensa que você pediu, sem entender os conceitos envolvidos. A IA não distingue o tóxico dos cogumelos comestíveis. Nem sabe o que é um cogumelo. Ele apenas cospe palavras e imagens que acha que vão te fazer feliz, e não sabe como se importar se você vive ou morre.