O que acontece quando um robô mata alguém?

Nos últimos 25 anos, dezenas de pessoas morreram nas mãos de robôs. Mas à medida que os robôs ficam mais inteligentes, quem é o culpado quando eles se tornam desonestos?

Zachary Crockett / A Trapaça

Em 25 de janeiro de 1979, um operário de 25 anos chamado Robert Williams escalou um rack de armazenamento na fábrica de fundição de Flat Rock da Ford Motor Company.



Um dos três trabalhadores no sistema de recuperação de peças, ele foi encarregado de supervisionar um robô industrial – uma massa de engrenagens de uma tonelada e cinco andares que transferia peças de carros das prateleiras para o nível do solo.



Naquela noite, o bot deu uma leitura de inventário errônea e Williams foi forçado a subir por conta própria. Ele nunca conseguiu: no meio do caminho, o robô o atingiu por trás, esmagou seu corpo e o deixou para morrer bem acima do chão da fábrica.

Foi a primeira vez na história registrada que um robô matou um humano, e não seria a última.



Nos últimos 25 anos, 61 lesões e mortes relacionadas a robôs foram relatados nos EUA. A grande maioria deles foi causada por robôs industriais, como aquele que matou Robert Williams. Mas o que acontece quando um robô fica desonesto? E quem é o culpado?

Quando os robôs matam

Em 1942, a lenda da ficção científica Isaac Asimov apresentou o que viria a ser conhecido como as Três Leis da Robótica, ou Leis de Asimov — um conjunto de princípios que os robôs devem seguir no futuro:

como fazer uma garota interessar
  1. Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.
  2. Um robô deve obedecer às ordens dadas por seres humanos, exceto quando tais ordens entrarem em conflito com a Primeira Lei.
  3. Um robô deve proteger sua própria existência desde que tal proteção não entre em conflito com a Primeira ou a Segunda Leis.

Infelizmente, a primeira regra foi quebrada muitas vezes.



Flat Rock Casting Plant da Ford Motor Company, onde um robô matou Robert Williams em 1979 ( DOCUMERICA/1973, via Wikipedia)

Em uma configuração de fábrica, os robôs são pretendido para “executar tarefas inseguras, perigosas, altamente repetitivas e desagradáveis”. Como resultado, os bots geralmente não têm inteligência para detectar humanos fora das tarefas programadas.

Some-se a isso o fato de que atualmente existem Não específico padrões de segurança no local de trabalho para a indústria robótica, e você tem um desastre esperando para acontecer.

Muitas vezes, essas interações mortais ocorrem quando um robô tem um problema mecânico (hardware) e precisa de intervenção humana - mas a máquina não possui a inteligência de software para diferenciar um humano de um palete, uma caixa ou algum outro item que está programado para segurar, esmagar e/ou aniquilar.



Voltamos a arquivos de notícias, documentos judiciais e relatórios da OSHA e encontramos vários casos (nos EUA e no exterior) em que a ação de um robô (ou a ação incorreta de um mecanismo de segurança relacionado) parecia ser culpa de um morte do trabalhador. Alguns exemplos:

Manchete via United Press International (8 de dezembro de 1981)

Robot liga inadvertidamente (4 de julho de 1981)

Quem: Kenji Urada, trabalhador de manutenção de 37 anos

Onde: Fábrica da Kawasaki Heavy Industries (Akashi, Japão)

O que aconteceu: Quando um robô nas instalações de última geração da Kawasaki falhou, Urada abriu a barreira de segurança (uma ação que deveria desligar automaticamente a máquina) e tentou corrigir o problema. O robô ligado novamente , apunhalou Urada nas costas com seu braço, então o esmagou.
Uma investigação descobriu que muitas fábricas japonesas tinham uma “tendência de deixar de lado os regulamentos” quando se tratava de novos robôs empolgantes. A máquina infratora foi removida da fábrica e cercas mais seguras foram erguidas.

Manchete via Pasadena Star-News (21 de julho de 2009)

Robô não consegue sentir a presença humana (21 de julho de 2009)

Quem: Ana Maria Vital, operária de 40 anos

Onde: Golden State Foods (fornecedor de carne da indústria, com sede na Califórnia)

O que aconteceu: Vital supervisionava um robô paletizador, uma máquina gigante que empilhava caixas. Uma caixa ficou presa e Vital entrou na “gaiola” do robô para retirá-la – mas quando o fez, o robô a confundiu com uma caixa e a agarrou, esmagando seu torso. O robô supostamente foi equipado com sensores para diferenciar humanos de caixas, mas eles falharam.

homem com olhos cinzentos
Manchete via Pasadena Star-News (21 de julho de 2009)

Robô fica “desonesto” (7 de julho de 2015)

Quem: Wanda Holbrook, técnica de fábrica de 57 anos

Onde: Ventra Ionia (fábrica de montagem de automóveis com sede em Ionia, Michigan)

O que aconteceu: Holbrook estava consertando uma peça de maquinário quando um robô de fábrica ficou “desonesto”. De acordo com um ação judicial , o braço do robô “pegou [Holbrook] de surpresa”, entrou na seção em que ela estava trabalhando (contra comandos de programação) e “esmagou sua cabeça entre um conjunto de engate que estava tentando colocar”. Ela morreu 40 minutos depois.

Em 2017, o marido enlutado de Holbrook entrou com uma ação reclamação de homicídio culposo culpar 5 empresas de engenharia envolvidas na construção, teste e manutenção do robô; atualmente está avançando lentamente pelo tribunal.

Quem é o culpado quando um robô mata?

Na maioria das vezes um robô mata um humano, é porque o bot é muito estúpido, não muito inteligente. Como tal, a culpa (por negligência) é normalmente atribuída aos fabricantes da máquina.

No caso de Robert Williams, por exemplo, um júri considerou culpado o fabricante do robô, Litton Industries, e a família do trabalhador. recebeu US$ 10 milhões . (O valor final acabou sendo resolvido fora do tribunal, em troca de Litton não admitir negligência.)

marcas de tintura para cabelo masculino

Mas à medida que a inteligência artificial progride e os bots se tornam mais do que apenas hardware seguindo o código do computador, o jogo da culpa ficará muito mais complexo. Acadêmicos jurídicos estão atualmente envolvidos em um “debate furioso” sobre se os robôs poderiam ou não ser hipoteticamente acusado de assassinato .

Gabriel Hallevy, autor de Quando os robôs matam: inteligência artificial sob o direito penal , estudou extensivamente o tema e propôs mudar a lei criminal para responsabilizar “entidades não humanas” (robôs AKA) por crimes, da mesma forma que as corporações.

Na maioria dos países, a responsabilidade criminal envolve dois componentes: 1) Uma ação, ou o crime em si, e 2) Intenção mental ou consciência do crime.

Alguns dos resultados potenciais de futuros assassinatos de robôs (Zachary Crockett por A confusão )

Robôs esfaquearam, esmagaram, eletrocutaram e estrangularam trabalhadores de fábricas – então já sabemos que eles são capazes de cometer o crime. ação . Mas e quanto ao conhecimento ?

“No direito penal, a definição [de consciência] é muito restrita”, disse Hallevy ao jornal. Washington Post em 2013. “É a capacidade de absorver dados sensuais e processá-los… para criar uma imagem interna.”

Aprendizado de máquina (um subconjunto de inteligência artificial) se esforça para capacitar os robôs a fazer exatamente isso: alimentando um robô com grandes quantidades de dados, esperamos que ele aprenda a processá-lo por conta própria. Em um futuro em que as máquinas industriais tenham a capacidade de tomar suas próprias decisões dessa maneira, os robôs poderão ser acusados ​​de intenção de matar.

Relaxe, os robôs não são assassinos do mal... ainda

As máquinas estão ganhando agência autônoma a uma taxa que tem sido comparada a um 4ª Revolução Industrial . E toda vez que algo dá errado - seja um morte de carro autônomo ou um acidente de cirurgia causado por um bot inteligente em operação - é uma manchete nacional sensacional, independentemente de quem foi o culpado.

Nossos medos de robôs sempre giraram em torno deles ganhando muito inteligência: Os escritores de ficção científica insistiram nos perigos dos robôs assassinos sencientes. Luminárias da tecnologia como Elon Musk e Bill Gates doaram milhões de dólares para pesquisar os riscos da IA. Toda vez que uma máquina da Boston Dynamics faz um cambalhota , a internet lamenta o fim da humanidade.

Mas histórias ocasionais de mortes relacionadas a robôs, embora horríveis e sensacionais, não devem sugerir que os robôs sejam algum flagelo maligno e assassino.

O ponto aqui é que a maioria dos incidentes relacionados a robôs até agora foram o resultado de: 1) Máquinas serem muito estúpidas, em vez de muito inteligentes, ou 2) Uma relação desarmoniosa entre homem e máquina. Para melhor pior, a IA está pronta para mudar ambos.

Madeline Gannon (AKA “The Robot Whisperer”) doma um bot industrial (via YouTube/National Geographic)

Como fundador da empresa de pesquisa ATONATON , Madeline Gannon vem trabalhando para melhorar a comunicação entre homem e máquina, um trabalho que lhe rendeu o título de “sussurra de robôs”.

Em um vídeo , ela está diante de um enorme braço robótico laranja, usando marcadores de captura de movimento para controlar seus movimentos. Ele segue sua mão como uma cobra encantada – e por um momento, é fácil esquecer que esta máquina é capaz de esmagar um crânio humano. Não é mais uma “coisa”, mas uma criatura viva e dinâmica.

Logo, ela conta A confusão , máquinas como esta vão deixar o laboratório e “viver em estado selvagem”. E o tempo dirá se eles decidem jogar bem.