¿AI puede protegernos contra la IA? Una de sus guías canadienses lo piensa
Cuando pasa6:27Esta IA está diseñada para protegernos de la IA
Cuando Joshua Bengio desarrolló por primera vez su trabajo de inteligencia artificial, no estaba preocupado por las oportunidades de ciencia ficción-su que serían conscientes y protegiendo su presencia.
Es decir, hasta que salga el chatgpt.
«Y luego me volamos en la cara (arriba) que estábamos en camino de construir máquinas más inteligentes que finalmente y no sabemos cómo controlarlas», dijo Bengio, Un investigador guiado de IA Y dijo el profesor de informática en la Universidad de Montreal Cuando pasa Anfitrión Nil Coxal.
El investigador de IA más citado del mundo Lazaro está lanzando una nueva organización libre de investigaciones, «Busque soluciones científicas sobre cómo crear una IA que no se vuelva contra nosotros».
«Debemos identificarlo lo antes posible antes de ir a su cuenta o de regreso (sus) máquinas peligrosas», dijo. «Actualmente, no hay suficientes investigaciones para encontrar soluciones a las fuerzas del mercado, la competencia entre las empresas, la competencia entre países».
Conoce al concepto de Lazero: el científico ai
Bengio lanzó Lazero usando fondos de donantes de $ 40 millones. Sus referencias de nombre Las tres leyes de robótica del autor de ciencia ficción Isaac AsimovUn conjunto de pautas que describen el comportamiento moral de los robots evitan que los humanos dañen u se opongan.
En la novela de 1985 de Asimov Robots e imperioFueron, y ,, y ,, y ,, y, .. El autor presentó la ley de Zeroot: «El robot no daña a la humanidad o, inactiva, nos permite dañar a la humanidad».
En vista de esto, Bengio dijo que el objetivo de Laazero es proteger a las personas.
«Nuestro objetivo es realmente trabajar hacia la IA, que está conectado con el desarrollo de la humanidad», dijo.
Las nuevas investigaciones de la Universidad de Western han salido a la luz sobre el uso de la inteligencia artificial del gobierno federal a través de un registro gubernamental automatizado de seguimiento. Joanna Reden, profesora asociada de información y estudios de medios y codirector en Starling: Just Technologies. Solo sociedades. Y Data Justice Lab, uniéndose a London Morning para hablar sobre datos y preocupaciones sobre el uso de la IA.
En los últimos meses, se ha informado que muchas tecnologías de IA socavan a las personas, engañan y cambian a las personas.
Por ejemplo, parte del estudio de un estudio a principios de este año AIS se niega a aceptar la derrota después del partido de ajedrez y hackea la computadora en lugar de hacer trampa los resultados. AI Company Human Anthrope Durante el último mes de prueba de sistemas, su herramienta de IA Claude Opus 4 intentó chantajear al ingeniero para que no fuera reemplazado por una nueva actualización.
Estas son las escenas de la inteligencia artificial de Guardian de Lazoro, que dirige Bengio para crear científicos IA.
Según la propuesta hecha por Bengio y sus colegas, La IA científica es una inteligencia artificial «segura» y «confiable» que sirve como un guardián y un sistema de protección para beneficiar a los humanos de la invención de esta tecnología con seguridad deliberada.
Es «no agente», que no es consciente de las situaciones construidas de Bengio y sus colegas y se define como objetivos continuos que conducen a acciones o planes a largo plazo. «
En otras palabras, sus habilidades autónomas son trabajar en el mundo para separar la IA no agente y no agente.
¿Cómo trabaja el científico la IA? Conocido ¿Funciona?
El científico AI, dice Bengio, está unido a otros AIS y actúa como una especie de «Gardrail». Evalúa la probabilidad de dañar las acciones de una (ai) «, Dijo el periódico del Reino Unido The Guardian.
Si esa oportunidad excede un cierto límite, el científico rechaza la acción indicada por AI.
Para el futuro de la humanidad, Joshua, el pionero de la IA, está generando alarmas sobre lo que está sucediendo en 2024, mientras que instó a Canadá a construir supercomputadoras de AI de $ 1 mil millones.
Pero, ¿podemos garantizar que esta IA de Guardian ni siquiera se volverá contra nosotros?
El investigador de seguridad de IA David Duvenad, quien es el asesor de Lazero, dijo que era una preocupación racional.
«Si duda de nuestra capacidad de controlar la IA con la otra IA, o realmente tiene nuestro mejor interés en nuestro mejor interés, tiene razón en preocuparse».
Aún así, dijo, debemos intentarlo.
«Creo que el plan de Joshua es menos negligente que el plan de todos los demás», dijo.
El investigador de IA Jeff Clune, el asesor del proyecto, de acuerdo.
«Hay muchos desafíos de investigación para resolver para asegurar la IA. Lo importante es que estamos tratando de asignar recursos significativos a este problema crítico», dijo el científico informático de la Universidad de Columbia Británica Clune en un correo electrónico. «La creación de Laziro es muy importante».
Según la declaración de Bengio para Laziro, «El científico IA está entrenado para comprender, explicar y evaluar como un ideal desinteresado y un científico platónico».
En comparación con el trabajo de la IA psicóloga, el científico intenta entendernos, incluido lo que es perjudicial para nosotros. El psicólogo puede estudiar un sociópata sin actuar como alguien. »
Bengio dijo que la evolución de la IA sería un catalizador que «ejercería presión sobre los gobiernos de todo el mundo para controlar» que la consecuencia de la IA es un movimiento político.
«La cuestión de si soy optimista o pesimista a menudo viene a mí», dijo. «Lo que digo es que realmente no importa. ¿Qué puede hacer cada uno de nosotros para mover la aguja a un buen mundo»?
