{"id":143656,"date":"2024-07-23T07:00:00","date_gmt":"2024-07-23T05:00:00","guid":{"rendered":"http:\/\/e3mag.com\/?p=143656"},"modified":"2024-07-23T16:27:49","modified_gmt":"2024-07-23T14:27:49","slug":"chatbots-ia-empresariales-con-software-de-codigo-abierto","status":"publish","type":"post","link":"https:\/\/e3mag.com\/es\/chatbots-ia-empresariales-con-software-de-codigo-abierto\/","title":{"rendered":"Chatbots de IA para empresas con software de c\u00f3digo abierto"},"content":{"rendered":"

El peligro de los LLM de c\u00f3digo cerrado: Hasta la fecha, no se ha publicado c\u00f3mo entrenaron los modelos ling\u00fc\u00edsticos los grandes anfitriones de chat de IA. Por el contrario, hay informes repetidos de que partes de los datos de entrenamiento est\u00e1n protegidos por derechos de autor. Mientras no se revele el proceso de entrenamiento, siempre existe el riesgo de que cada mensaje, cada sitio web, cada texto y, por tanto, potencialmente tambi\u00e9n los datos internos de la empresa se utilicen para el entrenamiento. Porque una cosa tambi\u00e9n est\u00e1 clara: los desarrolladores de modelos ling\u00fc\u00edsticos viven de los datos y deben seguir entrenando constantemente los modelos ling\u00fc\u00edsticos. \u00bfDe d\u00f3nde se pueden obtener nuevos datos si ya se ha utilizado toda la Internet gratuita?<\/p>\n\n\n\n

La caracter\u00edstica innovadora de los grandes anfitriones de chat con IA no es que haya alg\u00fan tipo de superinteligencia trabajando en segundo plano que pueda sustituir a los humanos. Al tratarse s\u00f3lo de una cuesti\u00f3n de c\u00e1lculo de probabilidades, un chatbot no es un ser inteligente. Aunque el constructo en su conjunto sea muy complejo, el elemento que promete el \u00e9xito es sencillo: el lenguaje. Los grandes modelos ling\u00fc\u00edsticos permiten interactuar con los sistemas inform\u00e1ticos utilizando un lenguaje natural, humano. La interfaz se simplifica a\u00fan m\u00e1s: un chat. La comunicaci\u00f3n con un ordenador como si se escribiera a un amigo por Messenger.<\/p>\n\n\n\n

LLM y datos propios<\/h2>\n\n\n\n

Las opciones de apoyo son enormes: \u00bfun plan de entrenamiento para completar con \u00e9xito un triatl\u00f3n? No hay problema. \u00bfResumir correos electr\u00f3nicos o contratos angustiosamente largos hasta reducirlos a sus elementos esenciales? En segundos. \u00bfAnalizar anomal\u00edas en grandes archivos de registro SAP? Inmediatamente. Si vinculas un LLM con tus propios datos, el potencial es casi infinito. Imag\u00ednese lo que ser\u00eda posible si pudiera consultar todo su sistema de tickets como una base de datos de conocimientos utilizando lenguaje natural. Sus datos son su fuerza.<\/p>\n\n\n\n

Los LLM maximizan el potencial de esta fuerza. Los LLM dan vida a tus datos. Dado que OpenAI, por ejemplo, no proporciona ninguna informaci\u00f3n, nunca podr\u00e1s estar seguro de la seguridad de tus propios datos a puerta cerrada. Pero es precisamente esta puerta cerrada la que abre otra: Open Source. <\/p>\n\n\n\n

El c\u00f3digo abierto es la clave: cada detalle puede rastrearse en el c\u00f3digo del programa, cada ajuste puede comprobarse. Esto significa que usted sabe lo que ocurre con sus datos: nada. Porque no env\u00edas ning\u00fan dato a ninguna empresa, al contrario, te llevas el producto a tu propia casa. Es como si pudieras comprar ChatGPT como producto acabado y colocarlo en tu centro de datos. Usted tiene la llave y, por tanto, el control total sobre c\u00f3mo y si sus datos se vinculan a la IA. En resumen, la ventaja del c\u00f3digo abierto es la transparencia.<\/p>\n\n\n\n

Motor de inferencia<\/h2>\n\n\n\n

En primer lugar, se instala un motor de inferencia en hardware potente, que permite el funcionamiento de los modelos ling\u00fc\u00edsticos. Falta el LLM adecuado, que se puede encontrar en Huggingface para cada aplicaci\u00f3n. A continuaci\u00f3n, existen dos opciones para acceder a los datos: Finetuning y Retrieval Augmented Generation (RAG). Mientras que el finetuning requiere demasiado rendimiento y cuesta demasiado, la RAG ofrece una alternativa favorable. <\/p>\n\n\n\n

Esto no cambia los datos del LLM, pero provee un contexto desde tu propia base de datos. Como si le dijeras al LLM: Aqu\u00ed est\u00e1 mi ticket 1234, res\u00fameme el contenido. El hecho de que siempre se proporcione el contexto tiene otra ventaja: a diferencia de los proveedores en l\u00ednea, el registro de datos siempre est\u00e1 actualizado.<\/p>\n\n\n\n

Con RAG y un LLM de c\u00f3digo abierto, tienes todo lo que necesitas para vincular tus propios datos con la tecnolog\u00eda. La respuesta a la pregunta de c\u00f3mo puedes seguir el ritmo de los cambios tecnol\u00f3gicos y aun as\u00ed no tener que preocuparte por la seguridad de tus propios datos es, en \u00faltima instancia, sencilla: c\u00f3digo abierto.<\/p>\n\n\n\n

<\/div>\n\n\n\n

A la entrada de socios:<\/p>\n\n\n\n

\"\"<\/a><\/figure>","protected":false},"excerpt":{"rendered":"

Cualquiera que utilice ChatGPT est\u00e1 poniendo en peligro sus datos. Pero para seguir el ritmo del cambio tecnol\u00f3gico, no se puede ignorar la IA. Entonces, \u00bfc\u00f3mo se puede combinar la seguridad de los datos internos con la IA? La respuesta: \u00a1con c\u00f3digo abierto!<\/p>","protected":false},"author":5567,"featured_media":132836,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"pmpro_default_level":"","footnotes":""},"categories":[7,43978,22],"tags":[],"coauthors":[43988,43989],"class_list":["post-143656","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-meinung","category-mag-24-07-08","category-open-source","pmpro-has-access"],"acf":[],"featured_image_urls_v2":{"full":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"thumbnail":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-150x150.jpg",150,150,true],"medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-400x180.jpg",400,180,true],"medium_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-768x346.jpg",768,346,true],"large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"image-100":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-100x45.jpg",100,45,true],"image-480":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-480x216.jpg",480,216,true],"image-640":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-640x288.jpg",640,288,true],"image-720":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-720x324.jpg",720,324,true],"image-960":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-960x432.jpg",960,432,true],"image-1168":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"image-1440":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"image-1920":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"1536x1536":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"2048x2048":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"trp-custom-language-flag":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-18x8.jpg",18,8,true],"bricks_large_16x9":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"bricks_large":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"bricks_large_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source.jpg",1000,450,false],"bricks_medium":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-600x270.jpg",600,270,true],"bricks_medium_square":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-600x450.jpg",600,450,true],"profile_24":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-24x24.jpg",24,24,true],"profile_48":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-48x48.jpg",48,48,true],"profile_96":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-96x96.jpg",96,96,true],"profile_150":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-150x150.jpg",150,150,true],"profile_300":["https:\/\/e3mag.com\/wp-content\/uploads\/2023\/09\/WEB-open-Source-300x300.jpg",300,300,true]},"post_excerpt_stackable_v2":"

Wer ChatGPT nutzt, gef\u00e4hrdet seine Daten. Doch um mit dem technischen Wandel mithalten zu k\u00f6nnen, darf KI nicht ignoriert werden. Wie also kann man die Sicherheit interner Daten mit KI vereinen? Die Antwort: Open Source!<\/p>\n","category_list_v2":"Die Meinung der SAP-Community<\/a>, MAG 24-07 \/ 08<\/a>, Open Source Kolumne<\/a>","author_info_v2":{"name":"Maximilian Rehms, FIS-ASP","url":"https:\/\/e3mag.com\/es\/author\/maximilian-rehms\/"},"comments_num_v2":"0 comentarios","_links":{"self":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/143656","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/users\/5567"}],"replies":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/comments?post=143656"}],"version-history":[{"count":5,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/143656\/revisions"}],"predecessor-version":[{"id":143825,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/posts\/143656\/revisions\/143825"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media\/132836"}],"wp:attachment":[{"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/media?parent=143656"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/categories?post=143656"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/tags?post=143656"},{"taxonomy":"author","embeddable":true,"href":"https:\/\/e3mag.com\/es\/wp-json\/wp\/v2\/coauthors?post=143656"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}