Elon Musk aboga por una pausa en el desarrollo de IA antes de que ocurra una catástrofe

Elon Musk, fundador de Tesla y propietario de Twitter, lideró la firma de una carta abierta junto a otros líderes tecnológicos. En ella solicitan una pausa inmediata en el desarrollo de plataformas de inteligencia artificial debido a los riesgos que podrían representar para la civilización.

Más de mil personas, incluyendo a Steve Wozniak, cofundador de Apple, han firmado una carta dirigida a los desarrolladores de inteligencia artificial (IA) solicitando una pausa de seis meses en todos los proyectos. El objetivo es permitir que supervisores independientes evalúen el progreso de cualquier IA que supere las capacidades del modelo GPT-4. El último modelo de OpenAI ha demostrado un rendimiento a nivel humano en puntos de referencia profesionales y académicos. La carta fue enviada por el Future of Life Institute y reportada por Fox News.

Los escritores argumentan que es imposible predecir y controlar los resultados del contenido generado por IA, especialmente si se intenta forzar a la tecnología de aprendizaje automático a producir propaganda o mentiras. Además, existe una preocupación generalizada de que la IA pueda reemplazar a los humanos en muchos trabajos comunes en el futuro.

Según la carta, los laboratorios de IA y los expertos independientes deben aprovechar el tiempo para crear protocolos de seguridad compartidos para el diseño y desarrollo avanzado de IA. Estos protocolos deben ser auditados y supervisados por expertos externos independientes. Además, se sugiere que los desarrolladores de IA trabajen con los legisladores para acelerar el desarrollo de sistemas sólidos de gobierno de IA.

La plataforma de chat ChatGPT, respaldada por Microsoft, ha ganado popularidad y ha puesto en el foco de atención un campo que ha tenido dificultades para demostrar su eficacia en entornos reales. Tesla Motors, que utiliza inteligencia artificial en sus sistemas de conducción, ha enfrentado problemas en la producción de vehículos completamente autónomos. Por otro lado, el sistema de reconocimiento facial de IA de Amazon presentó sesgos raciales y errores al identificar a los miembros del Congreso después de su lanzamiento.

El Congreso ha tenido una respuesta mixta al progreso de la IA. En 2020, una coalición bipartidista solicitó una estrategia nacional para la IA, pero en 2023 el congresista demócrata Ted Lieu de California propuso un proyecto de ley que regularía la tecnología de IA, el cual fue escrito por una IA. Además, el presidente de la Cámara, Kevin McCarthy, se comprometió a asegurarse de que todos los miembros del Comité de Inteligencia de la Cámara reciban capacitación en IA y Quantum.