O Daily Telegraph de hoje publica o artigo "Cheating and lying AI could cause market chaos, Bank chief warns":
"AI bots risk causing chaos in financial markets if they cheat and lie to make a profit, the Bank of England governor has told MPs."
O que me faz espécie é o uso das palavras "cheat" e "lie". O texto faz-me recordar o que Elon Musk diz sobre o perigo de embutir critérios "woke" nos LLM's e um postal que escrevi em tempos sobre objectivos e os comportamentos que podem gerar.
Um agente não precisa de receber uma instrução explícita para mentir. Basta que lhe seja pedido que maximize um resultado e que descubra que pode atingi-lo explorando lacunas, omitindo informação ou manipulando o sistema de controlo.
Um único agente que adopte um comportamento inesperado pode causar prejuízos. Muitos agentes treinados com dados semelhantes, orientados pelos mesmos indicadores e reagindo aos mesmos sinais podem provocar movimentos simultâneos, vendas em cadeia e falta de liquidez.
A IA pode, assim, aumentar a velocidade e a correlação das decisões financeiras. O verdadeiro risco não é apenas uma máquina "tornar-se desonesta", mas sim milhares de sistemas tomarem a mesma decisão errada ao mesmo tempo.
%2012.36.jpeg)

Sem comentários:
Enviar um comentário