Terence Tao: AI should not be a monopoly held by one or two companies

Tao says AI is theoretically capable of doing many kinds of work and could be used for harmful purposes such as deepfakes, but current systems are still limited and he is not highly concerned about them taking over. He expects more capable systems in 10 or 20 years, alongside more experience in how to deal with them.

He also says it is not good for something as important as AI to be a monopoly controlled by one or two companies. He notes that open-source models exist, though they lag behind big commercial systems, and says some regulation will be needed because AI can damage trust in photos, videos, and elections.

Fichamento

#

• Tao considera a IA uma tecnologia muito poderosa, com potencial para afetar quase tudo o que fazemos, mas diz que os sistemas atuais ainda são limitados e bons sobretudo em adivinhar respostas.
• Ele vê risco de uso da IA para deepfakes, propaganda e influência em eleições, embora diga que o cenário de superinteligência que domina o planeta ainda esteja distante.
• Tao afirma que não é bom que a IA fique em monopólio de uma ou duas empresas, porque a tecnologia é importante demais para depender só de poucos agentes.
• Ele diz que existem modelos abertos, ainda atrasados em relação aos comerciais, e que o custo para treinar grandes sistemas deve cair com o tempo.
• Tao defende alguma regulação da IA e alerta que a possibilidade de falsificar vídeos e fotos pode fazer as pessoas deixarem de confiar até em registros genuínos.