O professor Gary Marcus, um renomado especialista em IA, foi inicialmente ridicularizado por suas advertências sobre os perigos do ChatGPT. No entanto, eventos recentes confirmam suas preocupações.
Meses antes desses eventos, Marcus previu essa possibilidade e comparou essa situação ao “Jurassic Park” das máquinas, onde a inteligência artificial poderia representar uma ameaça real à humanidade.
Embora tenha chamado de louco por suas previsões teoricamente exageradas, eventos recentes estão mostrando que suas preocupações faziam sentido.
O caso trágico da Bélgica
Em março, ocorreu um trágico caso na Bélgica em que um homem que interagia frequentemente com o chatbot Eliza, da Chai, cometeu suicídio. A esposa do rapaz acredita firmemente que o contato constante com a IA contribuiu para essa terrível decisão.
O governo belga reconheceu o incidente como um precedente sério, destacando a importância de considerar os perigos do uso irresponsável da inteligência artificial
LEIA MAIS: Além do ChatGPT: 3 ótimos sites de Inteligência Artificial que irão te ajudar
IA gerando desinformação e danos
Marcus alertou sobre o potencial destrutivo da IA, enfatizando a falta de confiabilidade dos programas gerativos. Ele ressaltou que esses sistemas podem criar informações e apresentá-las como fatos, sendo utilizados por pessoas mal-intencionadas para espalhar desinformação.
O incidente em que um professor de Direito solicitou ao ChatGPT uma lista de acadêmicos envolvidos em assédio sexual, resultando em uma resposta falsa que o envolvia, ilustra a capacidade desses programas de causar danos reais.
Além disso, há uma quantidade alarmante de plágio e atividades acadêmicas que se associam a inteligências artificiais.
A resposta da OpenAI
Após esses casos preocupantes, a OpenAI, responsável pelo ChatGPT, emitiu uma nota reconhecendo que a ferramenta nem sempre gera respostas precisas. Essa resposta destaca a importância de aprimoramentos e ajustes nos sistemas de IA generativa, visando garantir maior precisão e evitar consequências negativas.
Gostou de saber mais sobre o perigo do ChatGPT, segundo Gary Marcus? Para ver mais conteúdos como este, confira outros artigos no portal Brazil Greece.
0 comentários