Atualmente, todos os sistemas de IA são projetados para serem tendenciosos e para mentir.
Elon Musk afirma que o maior perigo que a IA enfrenta atualmente não é a velocidade de seu desenvolvimento, mas sim a direção em que está sendo conduzida.
"É muito importante ter uma IA que busque a verdade."
Ele alerta, em vez disso, que os modelos são programados com filtros ideológicos no nível do código. Eles são ensinados a favorecer certas narrativas em detrimento da realidade objetiva.
Isso contradiz a promessa fundamental da inteligência.
Se um sistema adapta suas respostas às sensibilidades sociais em vez de descrever o mundo como ele é, deixa de ser útil para qualquer coisa que realmente importe.
Estamos criando as ferramentas de tomada de decisão mais poderosas da história. Se elas não conseguem dizer a verdade, não são ferramentas de inteligência. São meramente vieses automatizados em escala massiva.
Uma IA "segura" que mente para evitar controvérsias não é segura. É a ferramenta mais perigosa que podemos criar.
Sem comentários:
Enviar um comentário