La inteligencia artificial ha estado en el centro de atención últimamente, y las preocupaciones sobre el sesgo y la falta de diversidad en los modelos han sido una fuente constante de preocupación. Es por eso que OpenAI ha anunciado planes emocionantes para desarrollar una actualización de su modelo GPT-3 que permitirá a los usuarios personalizar sus respuestas.
Esta noticia es un gran avance en la lucha contra el sesgo en la inteligencia artificial. La capacidad de personalizar las respuestas permitirá una mayor diversidad de puntos de vista y ayudará a mitigar preocupaciones sobre sesgo en los modelos de IA.
OpenIA anuncia cambios en GPT-3
La tecnología GPT-3 ha sido un gran éxito hasta ahora, y esta actualización solo mejorará la funcionalidad del modelo. Los usuarios ahora tendrán la capacidad de ajustar sus respuestas para reflejar sus propias perspectivas y experiencias únicas.
Por el momento, la compañía ha compartido 3 detalles importantes que llegarán con la nueva actualización a GPT-3 y estos son:
1. Mejorar el comportamiento predeterminado: Uno de los principales objetivos de la empresa es asegurar su sistema de inteligencia artificial sea accesible y útil para todos los usuarios como sea posible, y que la nueva tecnología esté lista siempre para usarse y que los usuarios sientan que comprende y respeta sus valores.
Con ese fin, se está invirtiendo en investigación e ingeniería para reducir los sesgos evidentes y sutiles en la forma en que ChatGPT responde a diferentes entradas. En algunos casos, ChatGPT actualmente rechaza salidas que no debería y, en algunos casos, no rechaza cuando debería. Por lo tanto, es posible mejorar en ambos aspectos.
Además, según la propia empresa, tiene espacio suficiente para mejorar en otras dimensiones del comportamiento del sistema, como el sistema «inventando cosas». Pero los comentarios de los usuarios son invaluables para realizar estas mejoras.
2. Defina los valores de su IA, dentro de límites amplios: La IA debería ser una herramienta útil para personas individuales y, por lo tanto, personalizable por cada usuario hasta los límites definidos por la sociedad.
Por lo tanto, se está desarrollando una actualización de ChatGPT para permitir a los usuarios personalizar fácilmente su comportamiento.
Esto significará permitir salidas del sistema con las que otras personas (incluidos nosotros mismos) pueden estar totalmente en desacuerdo. Lograr el equilibrio correcto aquí será un desafío: llevar la personalización al extremo correría el riesgo de permitir usos maliciosos de la tecnología e IA aduladoras que amplifican sin pensar las creencias existentes de las personas.
Por lo tanto, siempre habrá algunos límites en el comportamiento del sistema. El desafío es definir cuáles son esos límites. Si se trata de tomar todas estas determinaciones por cuenta de la empresa, o si se trata de desarrollar un sistema de IA único y monolítico, se estará fallando en el compromiso que se asumió en la Carta de “evitar la concentración indebida de poder”.
3. Aporte público sobre valores predeterminados y límites estrictos: Es una forma de evitar la concentración indebida de poder es dar a las personas que usan o se ven afectadas por sistemas como ChatGPT la capacidad de influir en las reglas de esos sistemas.
La empresa cree que muchas decisiones sobre los valores predeterminados y límites estrictos deben tomarse colectivamente y, si bien la implementación práctica es un desafío, el objetivo es incluir tantas perspectivas como sea posible.
Como punto de partida, se ha buscado información externa sobre la tecnología en forma de equipo rojo. Recientemente, también se comenzó a solicitar la opinión del público sobre la IA en la educación.
La implementación de estos 3 importantes cambios generará el siguiente organigrama:
Para más detalles acerca de la nueva actualización, visite el blog oficial de OpenIA.
