Riscos potenciais da inteligência artificial

Quais são alguns riscos potenciais da inteligência artificial?

A inteligência artificial, ou a IA como também é frequentemente referida, é um assunto que tem sido muito discutido na última década. Está a desenvolver-se rapidamente, tornando o fluxo de trabalho da maioria das empresas mais fácil e eficiente. Mesmo no dia a dia de muitas pessoas, a IA mostrou um grande potencial e já está sendo implementada em muitos aplicativos diferentes, tornando a vida mais fácil e menos complicada. A IA trouxe muitas vantagens para nós e a ciência está abrindo caminho para muito mais por vir, então é seguro dizer que a IA será indispensável no futuro, se ainda não for.

Mas assim como toda medalha tem dois lados, a IA também tem. Esta tecnologia também vem com muitos riscos e desvantagens potenciais. Muitos especialistas e técnicos Os mentores do nosso tempo estão a expressar as suas preocupações com os problemas da IA pode causar no futuro e, por conseguinte, temos de ter o cuidado de abordar estas questões problemas enquanto ainda podem ser corrigidos. O que queremos dizer com isso?

Há muitas coisas que precisam ser consideradas em relação a essas questões específicas. Neste artigo, tentaremos descrever alguns dos riscos que o desenvolvimento incrivelmente rápido da IA pode trazer ao nosso mundo e que medidas precisam ser tomadas para monitorar e orientar esse progresso na direção certa.

1. Empregos

Temos a certeza de que todos já tiveram a oportunidade de ouvir ou ler sobre o potencial tratamento que as máquinas e a automação podem apresentar aos antigos escola, locais de trabalho baseados no ser humano. Algumas pessoas podem sofrer de vários graus de ansiedade por máquinas roubarem seus empregos. Esse receio pode ter fundamento, a automatização do trabalho é um grande risco para muitas pessoas: cerca de 25% dos americanos podem perdem o emprego porque em algum momento as máquinas poderão substituí-los. Especialmente em risco são as posições de baixos salários em que uma pessoa faz repetitivo tarefas, como trabalhos em administração ou serviço de alimentação. No entanto, mesmo alguns Graduados universitários estão em risco, algoritmos avançados de aprendizado de máquina podem ser capaz de substituí-los em algumas posições de trabalho complexas, porque eles estão se tornando mais refinado, especialmente através do uso de redes neurais e profundas aprendizagem.

Mas não podemos realmente dizer que os robôs expulsarão completamente os humanos de o mercado de trabalho. Os trabalhadores terão simplesmente de se adaptar, educar-se e encontrar uma forma de trabalhar cooperando com a IA, fazendo o melhor uso possível da sua eficiência e lógica mecânica. A IA ainda não é perfeita, por exemplo, não é capaz de fazer julgamentos, de modo que o fator humano ainda será decisivo quando trabalhar em conjunto com máquinas.

Há muita tecnologia baseada em IA que usa soluções automatizadas que precisam ser treinadas e esse treinamento depende da entrada humana. Um bom exemplo disso são as traduções automáticas que obtêm informações de um grande número de traduções geradas por humanos. Outro bom exemplo é o software de transcrição que obtém os dados de treinamento de transcrições precisas feitas por transcritores humanos profissionais. Desta forma, o software é aprimorado pouco a pouco, refinando seus algoritmos através de exemplos da vida real. Os transcritores humanos se beneficiam do software porque ele os ajuda a fazer transcrições mais rápidas. O software gera uma versão preliminar da transcrição, que é então editada e corrigida pelo transcritor. Isso economiza muito tempo e significa que, no final, o produto final será entregue mais rápido e será mais preciso.

2. O problema da parcialidade

Uma grande coisa sobre algoritmos é que eles sempre tornam justo, imparcial decisões, em nítido contraste com os seres humanos subjetivos e emocionais. Ou não? A verdade é que o processo de tomada de decisão de qualquer software automatizado depende sobre os dados sobre os quais foram treinados. Assim, existe o risco de discriminação em ocasiões em que, por exemplo, um determinado segmento da população não está suficientemente representada nos dados utilizados. Reconhecimento facial software já está sendo investigado para alguns desses problemas, casos de o viés já ocorreu.

Um ótimo exemplo de como a inteligência artificial pode ser tendenciosa é COMPAS (Perfil de Gestão de Infratores Correcionais para Sanções Alternativas). Trata-se de uma ferramenta de avaliação de riscos e necessidades para a previsão do risco de reincidência entre os infratores. Esta ferramenta baseada em algoritmos foi investigada e os resultados demonstraram que os dados do COMPAS eram gravemente preconceituosos em termos raciais. Por exemplo de acordo com os dados, os réus afro-americanos eram mais propensos a ser julgados incorretamente como tendo um risco maior de reincidência do que outras raças. O O algoritmo também tendia a cometer o erro oposto com pessoas de raça branca.

Então, o que aconteceu aqui? O algoritmo é dependente de dados, portanto, se os dados são tendenciosas, o software provavelmente dará resultados tendenciosos também. Às vezes, também tem algo a ver com a forma como os dados foram recolhidos.

A tecnologia de Reconhecimento de Fala Automatizado também pode ser tendenciosa dependendo do sexo ou raça devido ao fato de que os dados de treinamento não são necessariamente selecionados em matéria que garantiria inclusão suficiente.

3. Questões de segurança

Existem alguns problemas com a inteligência artificial que são tão perigosos que podem levar a acidentes. Um dos exemplos mais proeminentes de tecnologia de IA aplicada é o carro autônomo. Muitos especialistas acreditam que este é o futuro dos transportes. Mas o principal que está a dificultar a implementação imediata de carros autónomos no trânsito são as suas avarias que podem pôr em risco a vida de passageiros e peões. O debate sobre a ameaça que os veículos autónomos podem representar nas estradas ainda é muito real. Há quem pense que poderia haver menos acidentes se os carros autónomos fossem permitidos na estrada. Por outro lado, há estudos que mostraram que eles podem causar muitos acidentes, porque muitas de suas ações serão baseadas nas preferências definidas pelo motorista. Agora cabe aos designers escolher entre a segurança e a vida das pessoas e as preferências do condutor (como a velocidade média e alguns outros hábitos de condução). O principal objetivo dos carros autônomos, em qualquer caso, deve ser a redução de acidentes automobilísticos, através da implementação de algoritmos de IA eficientes e sensores avançados que podem detetar e até mesmo prever possíveis cenários de tráfego. No entanto, a vida real é sempre mais complicada do que qualquer programa, pelo que as limitações desta tecnologia ainda são um dos fatores limitantes para a sua implementação generalizada. Outro problema é o fator confiança. Para muitas pessoas com anos e anos de experiência de condução, colocar toda a confiança nas mãos digitais pode ser visto como um ato de capitulação simbólica às tendências digitais. De qualquer forma, até que tudo isso seja resolvido, algumas soluções tecnológicas avançadas já foram implementadas em carros mais novos, e os motoristas humanos podem se beneficiar de vários sensores, soluções de frenagem assistida e controles de cruzeiro.

4. Fins maliciosos

A tecnologia deve servir as necessidades das pessoas e ser utilizada para fazer as suas vidas mais fácil, mais agradável e deve poupar o precioso tempo de todos. Mas às vezes, a tecnologia de IA também tem sido usada para fins maliciosos, de certa forma Isso representa um risco significativo para a nossa segurança física, digital e política.

• Segurança física: Um risco potencial da IA, que soa bastante dramático no início e pode arrepiá-lo até os ossos é uma guerra potencial entre países tecnologicamente avançados, realizada por sistemas de armas autônomos programados para matar da maneira mais eficiente e implacável. É por isso que é extremamente importante regular o desenvolvimento de tal tecnologia militar através de tratados, regulamentos e sanções, a fim de salvaguardar a humanidade do risco ameaçador de guerra baseada em IA.
• Segurança digital: Os hackers já são uma ameaça à nossa segurança digital e o software de IA já está a ser utilizado para pirataria informática avançada. Com o desenvolvimento desse software, os hackers serão mais eficientes em seus delitos e nossa identidade on-line ficará mais vulnerável ao roubo. A privacidade dos seus dados pessoais pode ser comprometida ainda mais através de malware subtil, alimentado por IA e tornado ainda mais perigoso através do uso de aprendizagem profunda. Imagine um ladrão digital, escondido nas costas de seus programas favoritos, tornando-se mais astuto dia após dia, aprendendo com milhões de exemplos da vida real de uso de software e criando roubos de identidade complexos com base nesses dados.

• Segurança política: nos tempos turbulentos em que vivemos, o medo do falso notícias e gravações fraudulentas são bastante justificadas. IA pode causar muitos danos ao ser automatizada campanhas de desinformação, que podem ser extremamente perigosas durante as eleições.

Assim, para concluir, podemos perguntar-nos quanto dano artificial a inteligência pode fazer-nos e pode fazer mais mal do que bem à humanidade.

Especialistas afirmam que o desenvolvimento ético e os órgãos reguladores desempenharão um papel grande parte quando se trata de mitigar as desvantagens que a inteligência pode causar às nossas vidas. Aconteça o que acontecer, temos a certeza de que terá um enorme impacto no nosso mundo no futuro.

Software de reconhecimento de fala, baseado em protocolos avançados de IA já é sendo usado, e traz muitas vantagens para o mundo dos negócios: os fluxos de trabalho são mais rápido e mais simples. Gglot é um grande ator neste campo e nós somos fortemente investir no desenvolvimento da nossa tecnologia.