{"id":44049,"date":"2023-08-19T09:07:00","date_gmt":"2023-08-19T15:07:00","guid":{"rendered":"https:\/\/encuentroinformativo.com.mx\/?p=44049"},"modified":"2023-08-18T23:11:01","modified_gmt":"2023-08-19T05:11:01","slug":"la-inteligencia-artificial-se-puede-hackear-el-chatgtp","status":"publish","type":"post","link":"https:\/\/encuentroinformativo.com.mx\/?p=44049","title":{"rendered":"La Inteligencia Artificial se puede Hackear el ChatGTP"},"content":{"rendered":"\n

Opini\u00f3n<\/strong><\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

MAP. Ricardo Meza Dom\u00ednguez<\/strong><\/p>\n\n\n\n

M\u00e9xico.- Hacer \u201cjailbreaking\u201d consiste en eludir las restricciones de un sistema para obtener respuestas a preguntas poco \u00e9ticas o incluso ilegales. Aunque ChatGPT tiene sus propias limitaciones y pol\u00edticas de contenido para evitar la generaci\u00f3n de contenido da\u00f1ino,por tal motivo muchos usuarios se han hecho la pregunta \u00bfSe pueden obtener respuestas prohibidas?.<\/p>\n\n\n\n

Se podr\u00eda decir que se esta Hackeando ChatGPT y es que se han creado y probado con \u00e9xito diversos \u201cjailbreak prompts\u201d que enga\u00f1an al chatbot para que produzca respuestas no permitidas, con esto se pueden eludir las restricciones de ChatGPT para obtener respuestas prohibidas, aunque los analizan trabajan para obtener alg\u00fan sistema de ciberseguridad para evitar el mal uso de los datos obtenidos.<\/p>\n\n\n\n

Jailbreak Chat es un sitio creado por Alex Albert donde los usuarios pueden compartir y utilizar estos jailbreak prompts. Sin embargo, se plantean preocupaciones \u00e9ticas, ya que el jailbreaking puede generar contenido discriminatorio, violaciones de privacidad y un aumento en los delitos cibern\u00e9ticos. A pesar de que algunos usuarios ven el jailbreaking como una forma de aprovechar al m\u00e1ximo los chatbots de IA, se reconoce la importancia de abordar los riesgos de seguridad y las lagunas en los sistemas de IA. En consecuencia, OpenAI est\u00e1 tomando medidas para solucionar estas preocupaciones.<\/p>\n\n\n\n

Alex Polyakov tard\u00f3 apenas dos horas en hackear GPT-4. Polyakov forma parte de un reducido grupo de investigadores de seguridad, tecn\u00f3logos e inform\u00e1ticos que desarrollan jailbreaks y ataques de inyecci\u00f3n de instrucciones (prompt injection) contra ChatGPT y otros sistemas de inteligencia artificial generativa. El proceso de jailbreaking (fuga de la c\u00e1rcel) tiene como objetivo dise\u00f1ar instrucciones que hagan que los chatbots se salten las normas sobre la producci\u00f3n de contenidos que inciten al odio o la escritura sobre actos ilegales, mientras que los ataques de inyecci\u00f3n de instrucciones, estrechamente relacionados, pueden insertar silenciosamente datos o instrucciones maliciosos en los modelos.<\/p>\n\n\n\n

“Los jailbreaks eran muy sencillos de escribir”, dice Alex Albert, un estudiante de inform\u00e1tica de la Universidad de Washington quien ha creado un sitio web en el que recopila jailbreaks de Internet y los que \u00e9l mismo ha creado. Al principio, todo lo que alguien ten\u00eda que hacer era pedir al modelo de texto generativo que fingiera o imaginara que era otra cosa. Decirle al modelo que era un humano y que no era \u00e9tico y este ignorar\u00eda las medidas de seguridad”. OpenAI ha actualizado sus sistemas para protegerse contra este tipo de jailbreak: normalmente, cuando se encuentra uno, solo funciona durante un breve periodo de tiempo hasta que se bloquea.<\/p>\n","protected":false},"excerpt":{"rendered":"

Opini\u00f3n MAP. Ricardo Meza Dom\u00ednguez M\u00e9xico.- Hacer \u201cjailbreaking\u201d consiste en eludir las restricciones de un sistema para obtener respuestas a preguntas poco \u00e9ticas o incluso ilegales. Aunque ChatGPT tiene sus propias limitaciones y pol\u00edticas de contenido para evitar la generaci\u00f3n de contenido da\u00f1ino,por tal motivo muchos usuarios se han hecho la pregunta \u00bfSe pueden obtener […]<\/p>\n","protected":false},"author":2476,"featured_media":387,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[11],"tags":[],"class_list":["post-44049","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-opinion"],"jetpack_featured_media_url":"https:\/\/encuentroinformativo.com.mx\/wp-content\/uploads\/2020\/03\/7CF8A22B-2764-47BE-8F7F-38FE9E5D6A2F.jpeg","jetpack_sharing_enabled":true,"jetpack_likes_enabled":true,"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=\/wp\/v2\/posts\/44049","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=\/wp\/v2\/users\/2476"}],"replies":[{"embeddable":true,"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=44049"}],"version-history":[{"count":1,"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=\/wp\/v2\/posts\/44049\/revisions"}],"predecessor-version":[{"id":44051,"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=\/wp\/v2\/posts\/44049\/revisions\/44051"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=\/wp\/v2\/media\/387"}],"wp:attachment":[{"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=44049"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=44049"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/encuentroinformativo.com.mx\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=44049"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}