Publicado originalmente em IEA/USP por Sandra Sedini. Para acessar, clique aqui.
Quando questionado sobre o futuro relacionamento da humanidade com os computadores, Marvin Minsk deu a famosa resposta: “Se tivermos sorte, eles podem decidir nos manter como animais de estimação”. Várias autoridades eminentes continuam a argumentar que existe um perigo real de que máquinas “superinteligentes” escravizem – talvez até destruam – a humanidade. Poderíamos pensar em seguida que deveríamos abandonar a busca pela IA. Em vez disso, a maioria daqueles que afirmam estar preocupados com a ameaça existencial representada pela IA não se preocupam com o que chamam de “problema da IA amigável”. Grosso modo, esta é a questão de como podemos garantir que as IA que se desenvolverão a partir da primeira IA que criarmos permanecerão simpáticas à humanidade e continuarão a servir, ou pelo menos a ter em conta, os nossos interesses
Esta palestra se baseará na filosofia “neo-republicana” de Philip Pettit para argumentar que resolver o problema da IA Amigável não mudaria o fato de que o advento da IA superinteligente seria desastroso para a humanidade, em virtude de nos tornar escravos de máquinas. Uma ideia fundamental da tradição republicana é que a liberdade exige um certo tipo de igualdade, o que claramente falta entre os animais de estimação e os seus donos. A benevolência não é suficiente.
Enquanto a IA tiver o poder de interferir nas escolhas da humanidade, e a capacidade de o fazer sem referência aos nossos interesses, então dominar-nos-á e, portanto, tornar-nos-á não-livres. Os animais de estimação de donos gentis ainda são animais de estimação, o que não é um status que a humanidade deveria adotar.
Se realmente pensamos que existe o risco de que a pesquisa em IA conduza ao surgimento de uma superinteligência, então precisamos repensar se é de fato sábio desenvolver a IA.
Abertura e comentários: Virgílio Almeida (titular da Cátedra Oscar Sala)
Exposição: Robert Sparrow (Monash University)
Moderação: Elen Nas (IEA-USP)
Transmissão:
Acompanhe a transmissão do evento em www.iea.usp.br/aovivo
Inscrições
Evento público e gratuito | Sem inscrição
Evento em inglês | Com tradução
Evento on-line | Não haverá certificação
Organização
Parceria
Comitê Gestor da Internet no Brasil (CGI.br)
Núcleo de Informação e Coordenação do Ponto BR (NIC.br)