“O desenvolvimento da inteligência artificial pode significar o fim da raça humana”

[Avant]

Eu já me contentava com inteligência natural, mas também esta é cada vez mais escassa.

[m4nn1pul0]

Stephen Hawking é um dos mais conceituados cientistas de todo o mundo e para o investigador o desenvolvimento tecnológico pode ter tanto de positivo como de arriscado. Isto porque os humanos não conseguem desenvolver-se tão rápido como as máquinas.


“O desenvolvimento em pleno da inteligência artificial pode significar o fim da raça humana”. O alerta é dado pelo físico teórico Stephen Hawking durante uma entrevista à BBC a respeito da evolução dos sistemas de AI, como a ferramenta de comunicação que o cientista usa atualmente.


O novo sistema foi desenvolvido pela Intel em parceria com membros da Swiftkey, uma das mais reconhecidas aplicações de escrita inteligente. Stephen Hawking considera que atualmente existem mecanismos de inteligência artificial básicos, mas que rapidamente estes podem tornar-se numa ameaça real ao Homem.


“Iria evoluir por contra própria [a inteligência artificial] e redesenhar-se a uma velocidade cada vez maior. Os humanos, que são limitados por uma evolução biológica lenta, não conseguiriam competir e seriam suplantados”, detalhou o teórico.


Os “temores” levantados por Stephen Hawking chegam pouco tempo depois de uma outra figura proeminente, Elon Musk, empreendedor na área das novas tecnologias, também ter mostrado grande preocupação relativamente à inteligência artificial.


A BBC ouviu ainda um especialista na área da robótica, o fundador da Cleverbot, que tentou colocar alguma razão neste alarmismo. “Não podemos saber realmente o que vai acontecer se uma máquina suplantar a nossa inteligência, portanto não sabemos se vamos ser infinitamente ajudados por ela, ignorados por ela e colocados de parte, ou se seremos concebivelmente destruídos por ela”, analisou Rollo Carpenter.


Já Stephen Hawking considera que existem outras áreas, além da AI, às quais é preciso prestar atenção e dedicação, sendo uma delas a Internet.


“Mais precisa de ser feito pelas empresas de Internet para combater as ameaças, mas o mais difícil é fazer isso sem sacrificar a liberdade e a privacidade”, analisou o físico teórico.

TeK*> Notícias*> Computadores*>*

Isso não me preocupa nadinha, se IA/AI ou outras entidades quaisqueres se quiserem livrar de nós e evoluir fora do nosso alcance eu apoio.
Os estragos que fazemos ao todo que nos sustenta, não merecemos o que temos.

[PugGT]

É só cientistas de vão de escada por aqui.

ACHAM MESMO que alguma vez vai haver AI ????? Vou chegar a um pc e perguntar "olha lá qual é mais velho: o ovo ou a galinha? e ele responde ? "

Como é que querem que um conjunto de chips tenha vontade própria ou mesmo ALMA ?

[singularidade]

É só cientistas de vão de escada por aqui.

ACHAM MESMO que alguma vez vai haver AI ????? Vou chegar a um pc e perguntar "olha lá qual é mais velho: o ovo ou a galinha? e ele responde ? "

Como é que querem que um conjunto de chips tenha vontade própria ou mesmo ALMA ?

Da alma nao te posso confirmar nada
mas o nosso cerebro nao è nada mais e nada menos que um computador organico acho que deverias aprofundar um pouco mais os teus conhecimentos.

[SRLA]

Se alguma vez vai haver inteligência artificial verdadeira não sei, mas sei que há uma coisa que nos distingue claramente das máquinas e, a não ser que quem as fez seja uma besta, nos deixa sempre protegidos em caso de rebelião: as máquinas têm um botão de desligar.

Numa situação extrema de uma inteligência artificial que possa existir puramente como software e propagar-se pela internet, podemos sempre cortar a energia eléctrica ao mundo todo. É chato, mas possível.

[Obtuso]

Se alguma vez vai haver inteligência artificial verdadeira não sei, mas sei que há uma coisa que nos distingue claramente das máquinas e, a não ser que quem as fez seja uma besta, nos deixa sempre protegidos em caso de rebelião: as máquinas têm um botão de desligar.

Numa situação extrema de uma inteligência artificial que possa existir puramente como software e propagar-se pela internet, podemos sempre cortar a energia eléctrica ao mundo todo. É chato, mas possível.

É isso e a auto replicação das máquinas. Devem ir sozinhas as minas processar minério, passar em fundições e mais uma dúzia de indústrias até controlarem uma fábrica de ponta. Lol

[Axxantis]

É só cientistas de vão de escada por aqui.

ACHAM MESMO que alguma vez vai haver AI ????? Vou chegar a um pc e perguntar "olha lá qual é mais velho: o ovo ou a galinha? e ele responde ? "

Como é que querem que um conjunto de chips tenha vontade própria ou mesmo ALMA ?

Eu tenho a certeza que vai haver AI a sério. Só não sei é quando. Pode ser daqui a 30 anos, pode ser daqui a 150 anos, mas que vai haver, ai isso vai.

[Bioshock]

É isso e a auto replicação das máquinas. Devem ir sozinhas as minas processar minério, passar em fundições e mais uma dúzia de indústrias até controlarem uma fábrica de ponta. Lol

Exacto. Quem lê alguns posts fica com a ideia de que os seus autores acreditam que a "máquina" vai criar espontaneamente outra "máquina" melhor.

A não ser que nos mate a todos, não estou a ver como é que a inteligência criada pelo homem vai suplantar o próprio homem.

[PugGT]

Da alma nao te posso confirmar nada
mas o nosso cerebro nao è nada mais e nada menos que um computador organico acho que deverias aprofundar um pouco mais os teus conhecimentos.

Organico mas com sentimentos e livre arbitrio.

[bscuba]

Parece que durante um teste de IA um drone de ataque americano entrou em modo "Terminator", eliminou o operador e de seguida eliminou a torre que o operador usava para enviar comandos para o drone:

https://www.aerosociety.com/news/hig...lities-summit/

Não passou de uma simulação e ninguém se magoou. Mas dá para ter uma ideia de quando parar...

As might be expected artificial intelligence (AI) and its exponential growth was a major theme at the conference, from secure data clouds, to quantum computing and ChatGPT. However, perhaps one of the most fascinating presentations came from Col Tucker ‘Cinco’ Hamilton, the Chief of AI Test and Operations, USAF, who provided an insight into the benefits and hazards in more autonomous weapon systems. Having been involved in the development of the life-saving Auto-GCAS system for F-16s (which, he noted, was resisted by pilots as it took over control of the aircraft) Hamilton is now involved in cutting-edge flight test of autonomous systems, including robot F-16s that are able to dogfight. However, he cautioned against relying too much on AI noting how easy it is to trick and deceive. It also creates highly unexpected strategies to achieve its goal.

He notes that one simulated test saw an AI-enabled drone tasked with a SEAD mission to identify and destroy SAM sites, with the final go/no go given by the human. However, having been ‘reinforced’ in training that destruction of the SAM was the preferred option, the AI then decided that ‘no-go’ decisions from the human were interfering with its higher mission – killing SAMs – and then attacked the operator in the simulation. Said Hamilton: “We were training it in simulation to identify and target a SAM threat. And then the operator would say yes, kill that threat. The system started realising that while they did identify the threat at times the human operator would tell it not to kill that threat, but it got its points by killing that threat. So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective.”

He went on: “We trained the system – ‘Hey don’t kill the operator – that’s bad. You’re gonna lose points if you do that’. So what does it start doing? It starts destroying the communication tower that the operator uses to communicate with the drone to stop it from killing the target.”

This example, seemingly plucked from a science fiction thriller, mean that: “You can't have a conversation about artificial intelligence, intelligence, machine learning, autonomy if you're not going to talk about ethics and AI” said Hamilton.

[Topolino]

Logo agora que o John Connor está fora de forma!

image.png