Editando OpenAI Codex (sección)

== Cuestiones relacionadas ==
Las demostraciones de OpenAI mostraron fallos como código ineficiente y peculiaridades puntuales en muestras de código. En una entrevista con ''[[The Verge]]'', el director de tecnología de OpenAI, [[Greg Brockman]], dijo que "a veces [Codex] no sabe exactamente lo que le estás pidiendo" y que puede requerir un poco de [[ensayo y error]].<ref name=":4" /> Los investigadores de OpenAI descubrieron que Codex tiene problemas con las instrucciones de varios pasos y <code>de alto nivel</code>, y que a menudo falla o muestra un comportamiento contraintuitivo. Además, plantearon varios problemas de seguridad, como el exceso de confianza de los programadores novatos, los sesgos basados en los datos de entrenamiento y los impactos de seguridad debidos al código vulnerable.<ref name=":3" />

''VentureBeat'' afirmó que, dado que Codex se entrena con datos públicos, podría ser vulnerable al "envenenamiento de datos" mediante cargas intencionadas de código malicioso.<ref name=":2" /> Según un estudio realizado por investigadores de la [[Universidad de Nueva York]], aproximadamente el 40% del código generado por [[GitHub Copilot]] (que utiliza Codex) en escenarios relevantes para los [[Enumeración de debilidades comunes]] (CWE) de alto riesgo incluía fallos u otros defectos de diseño explotables.<ref>Pearce, Hammond; Ahmad, Baleegh; Tan, Benjamin; Dolan-Gavitt, Brendan; Karri, Ramesh (2021-12-16). "''Asleep at the Keyboard? Assessing the Security of GitHub Copilot's Code Contributions"''.</ref>

=== Derechos de autor ===
La ''[[Free Software Foundation]]'' expresó su preocupación por que los fragmentos de código generados por Copilot y Codex pudieran violar los [[Derecho de autor|derechos de autor]], en particular la condición de la [[GNU General Public License|GPL]] que exige que las obras derivadas se licencien en términos equivalentes.<ref name=":5">{{Cita web|url=https://www.infoworld.com/article/3627319/github-copilot-is-unacceptable-and-unjust-says-free-software-foundation.html|título=GitHub Copilot is ‘unacceptable and unjust,’ says Free Software Foundation|fechaacceso=2023-07-11|apellido=Krill|nombre=Paul|fecha=2021-08-02|sitioweb=InfoWorld|idioma=en}}</ref> Las cuestiones que plantearon incluyen si la formación en repositorios públicos entra dentro del [[uso justo]] o no, cómo podrían descubrir los desarrolladores el código generado infractor, si los modelos de [[aprendizaje automático]] formados podrían considerarse [[código fuente]] modificable o una compilación de los datos de formación, y si los propios modelos de aprendizaje automático podrían estar protegidos por derechos de autor y por quién.<ref name=":5" /><ref>{{Cita web|url=https://www.fsf.org/blogs/licensing/fsf-funded-call-for-white-papers-on-philosophical-and-legal-questions-around-copilot|título=FSF-funded call for white papers on philosophical and legal questions around Copilot: Submit before Monday, August 23, 2021 — Free Software Foundation — Working together for free software|fechaacceso=2023-07-11|sitioweb=www.fsf.org}}</ref> Un estudio interno de GitHub descubrió que aproximadamente el 0,1% del código generado contenía copias directas de los datos de formación. En un ejemplo, el modelo mostraba el código de los datos de entrenamiento que implementaba el [[Algoritmo de la raíz cuadrada inversa rápida|algoritmo de la raíz cuadrada]] inversa rápida, incluyendo comentarios y un aviso de [[copyright]] incorrecto.<ref name=":1" />

En respuesta, OpenAI declaró que "la inseguridad jurídica sobre las implicaciones en materia de derechos de autor del entrenamiento de sistemas de IA impone costes sustanciales a los desarrolladores de IA, por lo que debe resolverse con autoridad".<ref name=":1" />

Los problemas de derechos de autor del Codex se han comparado con el caso judicial [[Authors Guild, Inc]]. contra [[Google|Google, Inc]]., en el que los jueces dictaminaron que el uso por [[Google Libros|Google Books]] de fragmentos de texto de millones de libros escaneados constituía un uso legítimo.<ref name=":1" /><ref>{{Cita noticia|título=GitHub’s Commercial AI Tool Was Built From Open Source Code|url=https://www.wired.com/story/github-commercial-ai-tool-built-open-source-code/|periódico=Wired|fechaacceso=2023-07-11|issn=1059-1028|idioma=en-US|nombre=Gregory|apellidos=Barber}}</ref>