Cientistas podem limitar pesquisa com inteligência artificial
fonte: Terra
Um robô que pode abrir portas e encontrar tomadas para se recarregar. Vírus de computador que ninguém consegue deter. Predadores teleguiados que, embora ainda controlados remotamente por humanos, são quase uma máquina capaz de matar autonomamente.
Impressionados e alarmados com os avanços na inteligência artificial, um grupo de cientistas da computação está debatendo se deve haver limites nas pesquisas que podem levar à perda do controle humano sobre sistemas computacionais, que carregam parte crescente da carga de trabalho da sociedade, do combate bélico a conversas com consumidores ao telefone. Sua preocupação é de que avanços futuros possam criar profundas divisões sociais e até ter consequências perigosas.
Como exemplos, os cientistas citam tecnologias diversas, como sistemas médicos experimentais que interagem com pacientes para simular empatia ou worms e vírus de computador que resistem ao extermínio, podendo-se até considerar que estejam no estágio "barata" de inteligência das máquinas.
Embora concordem que ainda estamos longe de um HAL, o computador que assumiu a espaçonave de "2001: Uma Odisseia no Espaço", esses cientistas afirmam que há uma preocupação legítima de que o progresso tecnológico possa transformar a mão de obra, acabando com uma ampla variedade de empregos e forçando humanos a aprender a conviver com máquinas que reproduzem cada vez mais comportamentos humanos.
Os pesquisadores - eminentes cientistas da computação, pesquisadores de inteligência artificial e roboticistas que se encontraram no centro de convenções Asilomar Conference Grounds, em Monterey Bay, Califórnia - em geral descartaram a possibilidade de superinteligências altamente centralizadas e a ideia de que inteligência possa se disseminar espontaneamente pela internet. Mas concordaram que robôs capazes de matar autonomamente são ou serão em breve uma realidade.
Eles deram atenção particular ao espectro de criminosos que exploram sistemas de inteligência artificial durante seu desenvolvimento. O que um criminoso poderia fazer com um sistema de simulação de voz capaz de se passar por um ser humano? O que aconteceria se a tecnologia de inteligência artificial fosse usada para coletar dados pessoais em smartphones?
Os pesquisadores também discutiram possíveis ameaças a empregos, como carros de direção autônoma, programas de assistentes pessoais e robôs domésticos. No mês passado, um robô doméstico desenvolvido pela Willow Garage, do Vale do Silício, provou que funcionaria no mundo real. Um comunicado da conferência, que aconteceu a portas fechadas em 25 de fevereiro, será publicado até o fim do ano. Neste mês, alguns dos presentes discutiram a reunião pela primeira vez com outros cientistas e em entrevistas.
A conferência foi organizada pela Associação para o Avanço da Inteligência Artificial, que, ao escolher Asilomar como local dos debates, evocou propositadamente um evento crucial da história da ciência.
Em 1975, os mais eminentes biólogos do mundo se encontraram em Asilomar para discutir a nova habilidade de remodelar a vida pela troca de material genético entre organismos. Preocupados com possíveis riscos biológicos e questões éticas, cientistas chegaram a interromper certos experimentos. A conferência resultou em diretrizes para a pesquisa de DNA recombinante, permitindo que as experiências continuassem. O encontro sobre o futuro da inteligência artificial foi organizado por Eric Horvitz, pesquisador da Microsoft que é hoje o presidente da associação.
Para Horvitz, cientistas da computação devem ser responsabilizados caso máquinas superinteligentes e sistemas de inteligência artificial saiam do controle.
A ideia de uma "explosão de inteligência", em que máquinas criam outras ainda mais inteligentes foi proposta pelo matemático I. J. Good em 1965. Mais tarde, em palestras e romances de ficção científica, o cientista da computação Vernor Vinge popularizou a noção de um momento em que humanos criarão máquinas mais inteligentes que pessoas, mudança brusca que "encerraria a era dos homens". Ele chamou tal transformação de Singularidade.
Essa visão, absorvida pelo cinema e a literatura, é considerada plausível e perigosa por cientistas como William Joy, cofundador da Sun Microsystems. Outros tecnólogos, sobretudo Raymond Kurzweil, têm exaltado a chegada de máquinas ultrainteligentes, dizendo que elas oferecerão avanços gigantescos para aumentar a expectativa de vida e a geração de riqueza.
"Algo novo tem acontecido nos últimos cinco a oito anos", disse Horvitz. "Tecnólogos estão substituindo a religião, com ideias que ressoam de forma semelhante a um arrebatamento cristão."
A versão de Kurzweil de utopia tecnológica conquistou imaginações no Vale do Silício. Neste verão americano, uma organização chamada Universidade da Singularidade começou a oferecer cursos que preparam um núcleo de pessoas que dariam forma aos avanços e ajudariam a sociedade a lidar com os desdobramentos.
"Sentia que mais cedo ou mais tarde precisaríamos assumir algum tipo de posição ou avaliação, dada a voz crescente de uma elite tecnológica e de pessoas preocupadas com a ascensão das máquinas inteligentes", disse Horvitz.
O comunicado da associação vai procurar tratar da possibilidade de "perdas do controle humano sobre inteligências baseadas em computador". Segundo Horvitz, o anúncio também vai abordar questões socioeconômicas, legais e éticas, além de mudanças prováveis nos relacionamentos entre humanos e computadores.
Como seria, por exemplo, se relacionar com uma máquina que é tão inteligente quanto seu cônjuge? Horvitz explicou que o grupo estuda diretrizes de pesquisa para a tecnologia melhorar a sociedade, não para levá-la a uma catástrofe tecnológica. Algumas pesquisas, por exemplo, poderiam ser conduzidas em laboratórios de segurança máxima.
O encontro pode ser essencial para o futuro da inteligência artificial. Paul Berg, que organizou o encontro de 1975 em Asilomar e recebeu o Prêmio Nobel de química em 1980, acredita ser importante que as comunidades científicas envolvam o público antes que o alarde e a oposição se tornem inabaláveis.
"Se demorar demais e os lados se entrincheirarem como com os AGM", disse se referindo a alimentos geneticamente modificados, "então será muito difícil. É complexo demais e as pessoas não se escutam."
Tom Mitchell, professor de inteligência artificial e aprendizagem de máquinas da Universidade Carnegie Mellon, disse que a reunião de fevereiro havia mudado suas concepções. "Fui muito otimista sobre o futuro da IA e achava que Bill Joy e Ray Kurzweil estavam errados em suas previsões", disse. No entanto, acrescentou, "o encontro fez com que eu quisesse falar mais francamente sobre esses temas e, em particular, me expressar sem rodeios a respeito da vasta quantidade de dados coletados sobre nossas vidas pessoais".
Apesar de suas preocupações, Horvitz disse ter esperança de que a pesquisa em inteligência artificial beneficie humanos e talvez mesmo compense algumas falhas humanas. Recentemente, ele apresentou um sistema de fala que desenvolveu para perguntar a pacientes sobre seus sintomas e responder-lhes com empatia.
Quando uma mãe disse que seu filho estava com diarreia, o rosto no monitor disse: "É uma pena, lamento ouvir isso". Um médico lhe disse mais tarde que era maravilhoso o sistema responder a emoções humanas. "É uma ótima ideia", disse o médico, segundo Horvitz. "Não tenho tempo para isso."
Tradução: Amy Traduções
The New York Times
Um robô que pode abrir portas e encontrar tomadas para se recarregar. Vírus de computador que ninguém consegue deter. Predadores teleguiados que, embora ainda controlados remotamente por humanos, são quase uma máquina capaz de matar autonomamente.
Impressionados e alarmados com os avanços na inteligência artificial, um grupo de cientistas da computação está debatendo se deve haver limites nas pesquisas que podem levar à perda do controle humano sobre sistemas computacionais, que carregam parte crescente da carga de trabalho da sociedade, do combate bélico a conversas com consumidores ao telefone. Sua preocupação é de que avanços futuros possam criar profundas divisões sociais e até ter consequências perigosas.
Como exemplos, os cientistas citam tecnologias diversas, como sistemas médicos experimentais que interagem com pacientes para simular empatia ou worms e vírus de computador que resistem ao extermínio, podendo-se até considerar que estejam no estágio "barata" de inteligência das máquinas.
Embora concordem que ainda estamos longe de um HAL, o computador que assumiu a espaçonave de "2001: Uma Odisseia no Espaço", esses cientistas afirmam que há uma preocupação legítima de que o progresso tecnológico possa transformar a mão de obra, acabando com uma ampla variedade de empregos e forçando humanos a aprender a conviver com máquinas que reproduzem cada vez mais comportamentos humanos.
Os pesquisadores - eminentes cientistas da computação, pesquisadores de inteligência artificial e roboticistas que se encontraram no centro de convenções Asilomar Conference Grounds, em Monterey Bay, Califórnia - em geral descartaram a possibilidade de superinteligências altamente centralizadas e a ideia de que inteligência possa se disseminar espontaneamente pela internet. Mas concordaram que robôs capazes de matar autonomamente são ou serão em breve uma realidade.
Eles deram atenção particular ao espectro de criminosos que exploram sistemas de inteligência artificial durante seu desenvolvimento. O que um criminoso poderia fazer com um sistema de simulação de voz capaz de se passar por um ser humano? O que aconteceria se a tecnologia de inteligência artificial fosse usada para coletar dados pessoais em smartphones?
Os pesquisadores também discutiram possíveis ameaças a empregos, como carros de direção autônoma, programas de assistentes pessoais e robôs domésticos. No mês passado, um robô doméstico desenvolvido pela Willow Garage, do Vale do Silício, provou que funcionaria no mundo real. Um comunicado da conferência, que aconteceu a portas fechadas em 25 de fevereiro, será publicado até o fim do ano. Neste mês, alguns dos presentes discutiram a reunião pela primeira vez com outros cientistas e em entrevistas.
A conferência foi organizada pela Associação para o Avanço da Inteligência Artificial, que, ao escolher Asilomar como local dos debates, evocou propositadamente um evento crucial da história da ciência.
Em 1975, os mais eminentes biólogos do mundo se encontraram em Asilomar para discutir a nova habilidade de remodelar a vida pela troca de material genético entre organismos. Preocupados com possíveis riscos biológicos e questões éticas, cientistas chegaram a interromper certos experimentos. A conferência resultou em diretrizes para a pesquisa de DNA recombinante, permitindo que as experiências continuassem. O encontro sobre o futuro da inteligência artificial foi organizado por Eric Horvitz, pesquisador da Microsoft que é hoje o presidente da associação.
Para Horvitz, cientistas da computação devem ser responsabilizados caso máquinas superinteligentes e sistemas de inteligência artificial saiam do controle.
A ideia de uma "explosão de inteligência", em que máquinas criam outras ainda mais inteligentes foi proposta pelo matemático I. J. Good em 1965. Mais tarde, em palestras e romances de ficção científica, o cientista da computação Vernor Vinge popularizou a noção de um momento em que humanos criarão máquinas mais inteligentes que pessoas, mudança brusca que "encerraria a era dos homens". Ele chamou tal transformação de Singularidade.
Essa visão, absorvida pelo cinema e a literatura, é considerada plausível e perigosa por cientistas como William Joy, cofundador da Sun Microsystems. Outros tecnólogos, sobretudo Raymond Kurzweil, têm exaltado a chegada de máquinas ultrainteligentes, dizendo que elas oferecerão avanços gigantescos para aumentar a expectativa de vida e a geração de riqueza.
"Algo novo tem acontecido nos últimos cinco a oito anos", disse Horvitz. "Tecnólogos estão substituindo a religião, com ideias que ressoam de forma semelhante a um arrebatamento cristão."
A versão de Kurzweil de utopia tecnológica conquistou imaginações no Vale do Silício. Neste verão americano, uma organização chamada Universidade da Singularidade começou a oferecer cursos que preparam um núcleo de pessoas que dariam forma aos avanços e ajudariam a sociedade a lidar com os desdobramentos.
"Sentia que mais cedo ou mais tarde precisaríamos assumir algum tipo de posição ou avaliação, dada a voz crescente de uma elite tecnológica e de pessoas preocupadas com a ascensão das máquinas inteligentes", disse Horvitz.
O comunicado da associação vai procurar tratar da possibilidade de "perdas do controle humano sobre inteligências baseadas em computador". Segundo Horvitz, o anúncio também vai abordar questões socioeconômicas, legais e éticas, além de mudanças prováveis nos relacionamentos entre humanos e computadores.
Como seria, por exemplo, se relacionar com uma máquina que é tão inteligente quanto seu cônjuge? Horvitz explicou que o grupo estuda diretrizes de pesquisa para a tecnologia melhorar a sociedade, não para levá-la a uma catástrofe tecnológica. Algumas pesquisas, por exemplo, poderiam ser conduzidas em laboratórios de segurança máxima.
O encontro pode ser essencial para o futuro da inteligência artificial. Paul Berg, que organizou o encontro de 1975 em Asilomar e recebeu o Prêmio Nobel de química em 1980, acredita ser importante que as comunidades científicas envolvam o público antes que o alarde e a oposição se tornem inabaláveis.
"Se demorar demais e os lados se entrincheirarem como com os AGM", disse se referindo a alimentos geneticamente modificados, "então será muito difícil. É complexo demais e as pessoas não se escutam."
Tom Mitchell, professor de inteligência artificial e aprendizagem de máquinas da Universidade Carnegie Mellon, disse que a reunião de fevereiro havia mudado suas concepções. "Fui muito otimista sobre o futuro da IA e achava que Bill Joy e Ray Kurzweil estavam errados em suas previsões", disse. No entanto, acrescentou, "o encontro fez com que eu quisesse falar mais francamente sobre esses temas e, em particular, me expressar sem rodeios a respeito da vasta quantidade de dados coletados sobre nossas vidas pessoais".
Apesar de suas preocupações, Horvitz disse ter esperança de que a pesquisa em inteligência artificial beneficie humanos e talvez mesmo compense algumas falhas humanas. Recentemente, ele apresentou um sistema de fala que desenvolveu para perguntar a pacientes sobre seus sintomas e responder-lhes com empatia.
Quando uma mãe disse que seu filho estava com diarreia, o rosto no monitor disse: "É uma pena, lamento ouvir isso". Um médico lhe disse mais tarde que era maravilhoso o sistema responder a emoções humanas. "É uma ótima ideia", disse o médico, segundo Horvitz. "Não tenho tempo para isso."
Tradução: Amy Traduções
The New York Times
1 comentários:
Assustador! E seu cão como está? Tou tentando convencer meus pais a castrarem o Barney.
Postar um comentário