ISO 42001
Norma ISO 42001:2023 01 La ISO/IEC 42001 es la norma que especifica los requisitos para poner en marcha un sistema de gestión de inteligencia artificial (IA). Esta norma está diseñada para organizaciones que ofrecen o utilizan productos o servicios basados en la inteligencia artificial. 02 Es importante porque es la primera norma a nivel mundial que ofrece indicaciones sobre sistemas de gestión de inteligencia artificial (IA) y supone para las organizaciones una forma organizada de gestionar los riesgos y oportunidades que supone el uso de la inteligencia artificial. 03 La norma ISO-42001 es un estándar certificable por una tercera parte independiente. Puede aportar a las organizaciones los siguientes beneficios: Establecer un marco regulatorio, que garantice la correcta gestión, funcionamiento y control de un ambiente basado en IA. Mejorar la confianza de las partes interesadas. Mejorar la competitividad. Los beneficios que tiene para clientes de cualquier sector son: Garantizar la responsabilidad en el desarrollo y uso de la IA. Reducir los riesgos asociados a la IA. Los proveedores las siguientes ventajas: Demuestra a los clientes y stakeholders un compromiso con el desarrollo y uso responsable de la IA. Aumenta la confianza en la calidad, seguridad y confiabilidad de los productos y servicios de IA. Fortalece la reputación de la empresa como proveedor líder en IA ética y responsable. Optimiza los procesos de desarrollo y gestión de la IA mediante la implementación de un sistema de gestión estructurado. Mejora la eficiencia y la productividad al evitar errores, retrabajos y costes adicionales. Permite un uso más eficaz de los recursos y la inversión en IA. ISO/IEC 42001:2023 Sistema de Gestión de Inteligencia Artificial La inteligencia artificial (IA) se refiere a la capacidad de las máquinas o sistemas informáticos para realizar tareas que normalmente requieren inteligencia humana. Esto incluye la capacidad de aprender de la experiencia “aprendizaje automático”, razonar, entender el lenguaje natural, reconocer patrones y adaptarse a nuevas situaciones. El desconocimiento y desconfianza hacía las aplicaciones y capacidades de estas mismas ha generado la necesidad de administrar los riesgos sobre las lA y sus aplicaciones. Es por ello que la International Organization for Standardization (ISO) y la International ElectrotechnicalCommission (IEC). han publicado la norma ISO/IEC 42001:2023 Information technology – Artificial intelligence-Management system. Siendo esta la primera norma internacional para el desarrollo e implantación de sistemas de gestión fiables de lA, equilibrando la innovación con la gobernanza. Previamente ISO contaba con estándares como lo es ISO/IEC 22989 donde se establece la terminología de lA y el campo de esta, la ISO/IEC 23053 que establece un marco de lA y aprendizaje automático ML (Machine Learning), así como la ISO/IEC 23894 que orienta sobre la gestión de riesgos relacionados con la lA para organizaciones. Implementar este estándar significa poner en marcha políticas y procedimientos para la buena gobernanza de una organización en relación con la lA, utilizando la metodología PHVA, en lugar de observar los detalles de aplicaciones específicas de lA, proporciona una forma práctica de gestionar los riesgos y oportunidadesrelacionados con la lA en toda una organización. Los objetivos de la norma ISO/IEC 42001:2023 son los siguientes: Ahorro de costos y aumento de la eficiencia. Promover el desarrollo y el uso de sistemas de inteligencia artificial fiables, transparentes y responsables. Uso de análisis de datos. conocimientos y aprendizaie automático. Marco para la gestión de riesgos y oportunidades. Fomentar confianza en la gestión de la inteligencia artificial al alentar a las organizaciones a dar prioridad al bienestar humano, la seguridad y la experiencia del usuario durante el proceso de diseño e implementaciónde la lA Y los beneficios de la implementación de la norma ISO/IEC 42001:2023 son los siguientes: lA responsable: garantiza el uso ético y responsable de la inteligencia artificial. Gestión de la reputación: meiora la confianza en las aplicaciones de lA. Gobernanza de la lA: respalda el cumplimiento de los estándares legales y regulatorios. Orientación práctica: gestiona eficazmente los riesgos específicos de la lA. Identificar oportunidades: Fomenta la innovación dentro de un marco estructurado. Sistema de Gestión de Inteligencia Artificial (AIMS) Por su parte la norma ISO/IEC 42001:2023 específica los requisitos para establecer, implementar, mantener ymejorar continuamente un Sistema de Gestión de Inteligencia Artificial (AIMS) dentro de las organizaciones. Al igual que otros estándares ISO, la norma puede ser implementada en empresas y organizaciones de cualquier tipo, sin importar su tamaño, giro, sector, etc. El sistema de gestión de lA proporciona requisitosespecíficos para gestionar los problemas y riesgos derivados del uso de lA en una organización. Este enfoque común facilita la implementación y la consistencia con otras normas de sistemas de gestión, por ejemplo, relacionadas con la Calidad (ISO 9001:2015) y/o Seguridad y Privacidad (ISO 27001:2022). Como todo estándar de cualquier norma ISO, la ISO/IEC 42001:2023 no es la excepción y cuenta con una estructura de alto nivel, esto quiere decir es un modelo normalizado establecido por parte del Comité ISO, para que todas las nuevas normas de gestión respeten y compartan un objetivo común: la uniformización de las normas de gestión que nos apoya a sincronizar diferentes normas, adoptar un lenguaje común para facilitar que las organizaciones integren diferentes Sistemas de Gestión y puedan disfrutar de algunas ventajas añadidas, como puede ser, la eliminación de la duplicidad documental. Cómo se mencionó previamente, se cuenta con un modelo establecido, aunque dependiendo del esquema que se presente, es el enfoque que se le dará para dicha estructura. 0. Introducción Proporciona una visión general de la norma y su propósito, así como cualquier información relevante sobre su alcance y campo de aplicación. 1. Alcance Establece los límites del sistema de gestión de la inteligencia artificial (IA) que se está desarrollando e implementando. Incluye qué aspectos del ciclo de vida de la IA estarán cubiertos por el sistema de gestión, así como qué procesos, productos o servicios específicos serán abordados por el sistema. Este incluye información sobre las partes interesadas, los requisitos legales y reglamentarios, y cualquier consideración que defina el contexto en el que operará el sistema de gestión de la IA. 2. Referencias
Inteligencia Artificial Generativa
Fundamentos de la Inteligencia Artificial La humanidad está acogiendo la cuarta revolución industrial representada por la tecnología inteligente. Las nuevas tecnlogías como la AI, la IoT, el 5G y la bioingeniería están integreadas en todos los aspectos de a sociedad humana; impulsan cambios en las tendencias macro mundiales, como el desarrollo social sostenible y el crecimiento económico. Nueva energía cinética, mejora de ciudades inteligentes, transformación digital industrial experiencia del consumidor, etc. Una definición propuesta para el término de Inteligencia Artificial ó AI por sus siglas en inglés es la siguiente: “La rama de la informática se ocupa de hacer que las computadoras se comporten como humanos.” — Una definición popular de inteligencia artificial, y una definición anterior en este campo propuesta por John McCarthy| en la Conferencia de Dartmouth en 1956. Sin embargo, parece que esta definición ignora la posibilidad de una IA fuerte. Según otra definición, la inteligencia artificial es la inteligencia (IA débil) demostrada por las máquinas artificiales. La Inteligencia Artificial (IA) es una nueva ciencia técnica que estudia y desarrolla teorías, métodos, técnicas y sistemas de aplicación para simular y ampliar la inteligencia humana. En 1956, el concepto de IA fue propuesto por primera vez por John McCarthy, quien definió el tema como “ciencia e ingeniería de la fabricación de máquinas inteligentes, especialmente programas informáticos inteligentes”. La IA se preocupa por hacer que las máquinas funcionen de una manera inteligente, similar a la forma en que funciona la mente humana. En la actualidad, la IA se ha convertido en un curso interdisciplinario que involucra varios campos. El aprendizaje automático se puede entender desde múltiples aspectos. Tom Mitchell, un científico global de aprendizaje automático, proporcionó una definición ampliamente citada: “Se dice que un programa informático aprende de la experiencia E con respecto a alguna clase de tareas T y la medida de rendimiento P si su rendimiento en tareas en T, medido por P, mejora con la experiencia E”. Estas definiciones son simples y abstractas. Sin embargo, a medida que profundizamos nuestra comprensión del aprendizaje automático, encontraremos que la connotación y la extensión del aprendizaje automático están cambiando con el tiempo. Debido a que una variedad de campos y aplicaciones están involucrados y el aprendizaje automático se desarrolla rápidamente, no es fácil definir el aprendizaje automático de forma sencilla y clara. En general, los sistemas de procesamiento y los algoritmos de aprendizaje automático (ML) son un modo de identificación que realiza la predicción mediante la búsqueda de un modo oculto en los datos. Ml es un importante subcampo de IA, que también se cruza con la minería de datos (DM) y el descubrimiento de conocimiento en la base de datos (KDD), para una mejor comprensión y distinción de la inteligencia artificial, el aprendizaje automático, la minería de datos, el reconocimiento de patrones, las estadísticas y la computación neuronal. ¿Qué es el aprendizaje automático? El aprendizaje automático ó Machine Learning (incluido el aprendizaje profundo) es un estudio de algoritmos de aprendizaje. Se dice que un programa informático aprende de la experiencia E con respecto a alguna clase de tareas T y la medida de rendimiento P si su rendimiento en tareas en T, medido por P, mejora con la experiencia E. Escenarios de aplicación de aprendizaje automático La solución a un problema es compleja o el problema puede implicar una gran cantidad de datos sin una función de distribución de datos clara. ¿Qué es el aprendizaje profundo? Generalmente, la arquitectura de aprendizaje profundo o Deep Learning es una red neuronal profunda. “Profundo” en “aprendizaje profundo” se refiere al número de capas de la red neuronal. La red se construye simulando la red neuronal humana. En el diseño y aplicación de redes neuronales artificiales, deben tenerse en cuenta los siguientes factores: funciones de neuronas, modos de conexión entre las neuronas y aprendizaje en red (entrenamiento). Relación de IA, aprendizaje automático y aprendizaje profundo IA: Una nueva ciencia técnica que se centra en la investigación y el desarrollo de teorías, métodos, técnicas y sistemas de aplicación para simular y ampliar la inteligencia humana. Aprendizaje automático: Un campo de investigación básico de la IA. Se centra en el estudio de cómo las computadoras pueden obtener nuevos conocimientos o habilidades mediante la simulación o realización del comportamiento de aprendizaje de los seres humanos, y reorganizar la arquitectura de conocimiento existente para mejorar su rendimiento. Es uno de los principales campos de investigación de la IA. Aprendizaje profundo: Un nuevo campo de aprendizaje automático. El concepto de aprendizaje profundo se origina en la investigación sobre redes neuronales artificiales. El perceptron multicapa (MLP) es un tipo de arquitectura de aprendizaje profundo. El aprendizaje profundo tiene como objetivo simular el cerebro humano para interpretar datos como imágenes, sonidos y textos. Tomado de https://forum.huawei.com/enterprise/es/%C2%BFqu%C3%A9-es-la-inteligencia-artificial-ai-y-cu%C3%A1les-son-sus-principales-tecnolog%C3%ADas/thread/667225022449729536-667212895009779712 En la actualidad, hay tres enfoques principales de inteligencia artificial: simbolismo, conexionismo y conductismo. Los primeros referentes de la historia de la Inteligencia Artificial tuvieron sus inicios desde 1956 y desde entonces el desarrollo tecnológico junto con la transformación digital han sido fundamentales para el desempeño actual y prometedor futuro de esta tecnología. Simbolismo en Inteligencia Artificial El simbolismo también se llama lógica, escuela de psicología o escuela de psicología. Su principio es principalmente la asunción del sistema de símbolos físicos (es decir, el sistema operativo simbólico) y el principio de racionalidad limitada, que está representado principalmente por el sistema de aplicación de gráficos de conocimientos. Pertenece a la categoría de inteligencia artificial moderna, y simula el comportamiento de la inteligencia humana basado en el método de simulación inteligente del razonamiento lógico. La esencia es simular el pensamiento lógico abstracto del cerebro humano, estudiando el mecanismo de función del sistema de cognición humano, describir el proceso de cognición humana con algún símbolo, e imitar el proceso de cognición humana introduciendo el símbolo en el ordenador que puede manejar símbolos, en pocas palabras, “la cognición es cálculo”. El gráfico de conocimiento aboga por el uso de métodos lógicos para establecer un sistema de teoría unificado de la inteligencia artificial, pero se ha encontrado con el obstáculo del problema del “sentido común”. Conexionismo en Inteligencia Artificial El conexionismo también se llama escuela
