Una carta pública, firmada por más de 3.000 personalidades ligadas a la tecnología, advierte que la inteligencia artificial es una carrera “peligrosa y fuera de control”.
Desde los carros autónomos, los asistentes parlanchines como Alexa, y los bots de servicio al cliente, todos son desarrollos que usan inteligencia artificial o IA.
Esta rama de la tecnología es básicamente el uso de las máquinas y sus algoritmos al servicio del ser humano, y están llamadas a reemplazar tareas consideradas operativas, como manejar un auto o tocar una canción.
El boom ‘comercial’ de IA se vive ahora con la aparición del chatbot ChatGPT-4, en su última versión. Se trata de un sistema capaz de contestar preguntas, hacer trabajos científicos y hasta rendir un examen universitario.
Pero, ¿qué pasa cuando un grupo de profesionales tecnológicos, encabezados por Steve Wozniak, advierte que la IA es una amenaza?
Wozniak, cofundador de Apple, ha firmado una carta pública en la que se asegura que los desarrollos de inteligencia artificial “son una carrera peligrosa y sin control”.
Estas son las cinco claves para entender las amenazas de esta tecnología para las personas y los gobiernos.
-
Pocas Pruebas
La nueva versión del chatbot GPT-4 se ha aliado con la app Duolingo. Empresa OpenAI
La carta fue publicada en la organización Future of Life Institute, que mide los riesgos de la tecnología actual.
En la misiva, que busca más firmantes para generar presión, se pide una pausa a cualquier desarrollo de IA.
Y esta pausa debería ser por seis meses y de forma pública y verificable.
Según los firmantes, los desarrollos de IA carecen de planificación y evaluación profunda antes de lanzarse al mercado.
“Desafortunadamente, los niveles de planificación no están sucediendo, pese a que en los meses recientes muchos laboratorios de IA se han lanzado a una carrera sin freno”, señala la carta.
A la empresa creadora del bot ChatGPT le tomó por ejemplo unos meses entre lanzar la primera y la cuarta versión del lenguaje de programación, y ya está disponible hasta en una versión de pago.
-
Proliferación de 'fake news'
Los sistemas contemporáneos de IA, alertan los firmantes en la carta, se están volviendo más competitivos y ágiles.
Por ello, los profesionales se preguntan ¿deberíamos dejar que las máquinas llenen los canales de información con propaganda?
Uno de los temores de los desarrollos de IA es la facilidad para generar textos e imágenes falsas, en un momento en que la desinformación abunda en Internet.
Hace poco, se viralizó la fotografía del papa Francisco con un supuesto abrigo deportivo. Esta era una imagen falsa producida por un programa de IA, al cual se accede gratuitamente.
AI-generated image of Pope Francis goes viral on social media. pic.twitter.com/ebfLK4F850
— Pop Base (@PopBase) March 25, 2023
Mientras que el diario The New York Times alertó que la IA ya está distorsionando la precampaña electoral en Estados Unidos.
Se detectaron imágenes falsas de Donald Trump siendo arrestado en Nueva York. Y hubo hasta un audio imitando la voz del presidente estadounidense, Joe Biden, comentando sobre los últimos colapsos financieros en su país.
-
Reemplazo de trabajadores
Ilustración de un usuario 'conversando' con el bot ChatGPT, con inteligencia artificial. Primicias
¿Deberíamos dejar que mentes no humanas, que eventualmente pueden ser más inteligentes, nos desplacen o nos conviertan en seres obsoletos?, preguntan los miles de profesionales que respaldan la carta.
Entre los firmantes no solo hay desarrolladores como Wozniak, sino hasta profesores de inteligencia artificial de universidades.
Para ellos, si bien la IA no reemplazará a todos los profesionales, las máquinas se convierten en una amenaza “cuando las decisiones de reemplazo en una empresa se delegan a líderes tecnológicos que no fueron seleccionados para esto”.
-
Falta de regulación
Otro temor sobre los sistemas de IA es su falta de regulación, puesto que al momento ningún gobierno o institución ha expedido un protocolo al respecto.
“Los laboratorios de IA y los expertos independientes deberían usar una pausa para desarrollar juntos protocolos seguros de uso”, dice la carta de los profesionales tecnológicos.
En paralelo, se aconseja que los desarrolladores trabajen con quienes elaboran las políticas púbicas para crear un sistema de gobernanza mundial de IA.
-
Lucro y no investigación
Ilustración con los logos de Google, y de la firma OpenIA, creadora del chatbot ChatGPT. Reuters
Finalmente, los firmantes se lamentan de que las empresas tecnológicas están en una carrera por sacar el mejor adelanto, con tal de ganar dinero.
“A este ritmo, los avances se producen más rápido de lo que la sociedad y los reguladores pueden asumir”, dice la carta.
La escala de inversiones de Microsoft y Google son significativas, y ahora hasta China está embarcada en crear su propio lenguaje de IA.
Solo Microsoft ha invertido USD 10.000 millones en OpenAI, la empresa detrás del famoso ChatGPT.
Por ello, la empresa, fundada por Bill Gates, espera sus ganancias al incorporar IA en el buscador Bing.
Google también quiere una parte del mercado de IA y ya prueba un chat inteligente en Gmail.
También le puede interesar:
Lo último