Lior Rokach, científico informático israelí y miembro de un panel de élite de las Naciones Unidas sobre inteligencia artificial, planea centrarse en evitar que esta tecnología se salga de control.
“Haré hincapié en el campo de la seguridad de la IA y en cómo garantizar que la IA opere de acuerdo con su diseño, y en cómo desarrollar un sistema de control que prevenga los daños no deseados que la IA pueda causar a los humanos”, declaró el profesor de la Universidad Ben-Gurion del Néguev a JNS.
Rokach es uno de los 40 expertos recomendados por António Guterres, secretario general de la ONU, y aprobados por la Asamblea General de la ONU para formar parte del Panel Científico Internacional Independiente sobre Inteligencia Artificial, que las Naciones Unidas señala como el “primer organismo científico mundial” sobre el tema.
El panel fue establecido a través de una resolución de la Asamblea General de la ONU.
Garantizar que la inteligencia artificial siga siendo segura implica tanto cosas aparentemente simples, como asegurarse de que un usuario que cargue un historial médico electrónico reciba la recomendación de medicación correcta, como tareas más difíciles, como contrarrestar el hacking, según Rokach.
Los modelos de inteligencia artificial, como ChatGPT, Claude y Gemini, tienen “barandillas” para evitar que respondan a preguntas problemáticas, pero es muy fácil sortearlas, dijo Rokach a JNS.
“Esta herramienta en manos de las personas equivocadas será un problema muy grande”, afirmó. La inteligencia artificial puede utilizarse para actividades terroristas y delitos cibernéticos, añadió.
El nativo de Holon, quien anteriormente presidió el departamento de software y sistemas de información de Ben-Gurion, es cofundador de cuatro empresas de inteligencia artificial y posee más de 20 patentes, incluidas las relacionadas con la inteligencia artificial. Fue seleccionado entre unos 2.600 solicitantes de 140 países.
Contó a JNS que el Ministerio de Asuntos Exteriores israelí le llamó la atención sobre la convocatoria de expertos y “enfatizó por qué era importante presentar la solicitud, incluso si la ONU e Israel han tenido algunas fricciones últimamente”.
Técnicamente, él y sus compañeros panelistas no representan a sus países, dijo. Guterres ha afirmado que los panelistas “servirán en su capacidad personal, independientemente de cualquier gobierno, empresa o institución”.
“Soy israelí, pero no soy un candidato que provenga del gobierno israelí”, dijo Rokach a JNS. “De hecho, la ONU incluso enfatizó el hecho de que no soy representante del Estado israelí”.
Pero es fundamental que el Estado judío tenga un lugar en el foro, según Rokach.
“Israel está bendecido con un capital humano excepcional en este campo, pero seguimos siendo un país pequeño en el sentido de competir por masivos recursos informáticos, que solo países grandes como Estados Unidos y China realmente incorporan”, dijo.
Se indica que dos panelistas son de Estados Unidos y un tercero, que enseña en la Universidad Carnegie Mellon en Pittsburgh, es “iraní”.
Guterres dijo que se espera que el panel publique su primer informe en julio, un plazo aparentemente ambicioso. Rokach dijo a JNS que el panel se reunirá por primera vez esta semana por Zoom, y su primera reunión presencial está programada para junio.
El panel tiene como objetivo proporcionar tanto una evaluación académica de la inteligencia artificial como monitorear el campo en tiempo real y “plantear señales de alerta de manera oportuna”, dijo Rokach a JNS.
Si bien el profesor se centra en la seguridad, otros panelistas se ocuparán de temas como el impacto de la inteligencia artificial en el mercado laboral y la educación, garantizando que cualquier desarrollo de la IA sea sostenible y una variedad de otros sectores.
“Lo bueno es que el grupo de expertos proviene de diferentes campos. Hay varios de las ciencias de la computación como yo, pero también otros expertos de la filosofía, el derecho y la física”, dijo Rokach a JNS. “Obtendremos una perspectiva muy interesante sobre este campo”.
La publicación Importante que Israel esté en el panel de las Naciones Unidas sobre inteligencia artificial, dice el profesor de Ben-Gurion apareció primero en JNS.org.
