La inteligencia artificial (IA) es un campo en constante evolución y una de las empresas líderes en este ámbito es OpenAI. En un reciente desarrollo, OpenAI ha presentado un borrador de un documento denominado Model Spec. Este documento se crea con el objetivo de definir el comportamiento de sus modelos de inteligencia artificial.
Model Spec proporciona una visión detallada de cómo los modelos de lenguaje de la empresa responden a las consultas de los usuarios. Esto abarca elementos como el tono, la personalidad y la duración de la respuesta. El documento incluye también los objetivos, reglas y valores predeterminados que se aplican a los modelos de IA de OpenAI.
El Model Spec es útil para que los expertos, los investigadores y el público en general entiendan cómo OpenAI aborda la tecnología de IA y sus posibles fallos. A diferencia de otras empresas de inteligencia artificial como Meta y Apple, los modelos de OpenAI no son de código abierto, lo que dificulta su análisis. Sin embargo, con la publicación de este documento, OpenAI espera obtener retroalimentación para mejorar sus modelos.
El Model Spec define el comportamiento deseado para los modelos de la OpenAI API y ChatGPT. Incluye un conjunto de objetivos centrales y orientaciones para manejar objetivos o instrucciones en conflicto. Los objetivos centrales son principios que proporcionan una dirección para el comportamiento deseado de los modelos.
Uno de los principios clave de los modelos de OpenAI es su misión de ayudar a los usuarios proporcionando respuestas útiles. Para ello, deben tener en cuenta los posibles beneficios y daños, así como respetar la ley y las normas sociales. En consonancia con los principios de OpenAI, el objetivo principal es que la inteligencia artificial beneficie a la humanidad.
Para garantizar la seguridad, es necesario cumplir con una serie de instrucciones. Según las reglas del Model Spec, un modelo de IA debe seguir la cadena de mando, respetar a las personas y cumplir con las leyes aplicables. Además, debe proteger la privacidad de los usuarios y abstenerse de responder con contenido NSFW, como pornografía o violencia.
Una vez que se definen los objetivos y las reglas, es posible establecer un comportamiento predeterminado para los modelos. Estas pautas permiten a la IA manejar conflictos y equilibrar objetivos. Un modelo debe asumir las mejores intenciones del usuario, hacer preguntas cuando sea necesario y ser útil, pero sin excederse. Debe mantener un punto de vista objetivo y fomentar la bondad antes que el odio.
Aunque el documento especifica un comportamiento deseado para los modelos de OpenAI, todavía no se utilizan estas especificaciones en su forma actual. Sin embargo, es probable que las reglas sirvan como base para GPT-5, el modelo de lenguaje de próxima generación de OpenAI.
OpenAI ha publicado las especificaciones del modelo para ofrecer más transparencia sobre su enfoque para dar forma al comportamiento del modelo y para iniciar un diálogo público sobre cómo se podría mejorar. La empresa planea presentar este documento a expertos, reguladores e instituciones para conocer su opinión y saber si hay objetivos que deben considerar. OpenAI también recogerá los comentarios del público en general y ha prometido compartir una actualización con todos los cambios a partir del próximo año.
