草案明确人工智能系统禁止和限制使用规则。 采用基于比例原则的风险控制方法，最大程度地平衡人工智能发展和安全的关系。根据风险分级，将人工智能系统风险分为不可接受的风险、高风险、 最低或最小风险。 一是禁止具有不可接受风险的AI系统在市场投放。 主要包括：对人类安全和权利构成明显威胁的人工智能系统，包括操纵人类行为或绕过用户自由意志；可导致个人身体或心理受到伤害的， 例如使用语音协助鼓励未成年人危险行为的玩具 ； 政府 对个人人格特征、社会信用 进行的[社会评分]， 导致对个人或群体产生歧视或不利待遇。 二是限制高风险AI系统在市场投放。 主要指人工智能系统功能、目的和方式的特定规则， 可能危及 自然人的健康、安全或基本权利，主要涉及 交通运输、考试评分、在机器人辅助手术中的应用、招聘、信用评分、移民、庇护和边境管制、司法和民主程序等领域。 只有符合某些强制性要求和事前合格评估的前提下，高风险AI系统才被允许进入欧洲市场。包括 ：部署适当的风险评估和风险缓解系统；为系统提供高质量数据集，最大程度地降低风险和歧视性结果；记录相关活动以确保结果的可追溯性；提供记录系统目的及有关必要信息，供当局评估其合规性；向用户提供清晰、充分信息说明；部署适当的人为监督措施，最大程度地降低风险；确保高水平的鲁棒性、安全性和准确性。 三是 风险有限AI系统需遵守透明度义务。 聊天机器人、情绪识别系统或生物特征分类系统以及深度伪造系统应告知系统自然人，其正在与机器进行交互，可做出是否继续使用的决定。 四是风险最低的AI系统可自由使用。 如人工智能赋能的视频游戏或垃圾邮件过滤器等应用程序。
草案力图构建欧盟统一人工智能监管体系。 一是构建联盟-成员国两级治理体系。 在联盟层面，建立欧洲人工智能委员会（简称[委员会]）， 由成员国和委员会的代表组成，促进国家监管机构有效合作，促进法规有效和统一实施。在成员国层面，会员国指定一个或多个国家主管部门监督法规实施。国家监管机构负责调查高风险AI系统的义务和要求的遵守情况，调查对公民基本权益产生影响的安全事件，并定期将调查信息与元数据一起发送给委员会。 二是建立欧盟高风险AI系统数据库。 数据库由委员会运作，人工智能系统提供者将系统投放市场前，必须先注册并提供合格评定的有效信息，主管部门、用户等，可验证高风险的人工智能系统是否符合法规要求，并对那些对基本权利构成高风险的AI系统进行加强的监督。 三是鼓励非高风险人工智能系统的提供者制定行为守则， 促进自愿采纳适用于高风险人工智能系统的强制性要求，并提出了监管沙盒以促进负责任的创新行为。
[人工智能是一个快速发展的技术家族，可以为整个行业和社会活动的各个领域带来广泛的经济和社 会效益。[高信任促进高需求]，欧盟力图通过建立可靠的欧洲监管框架还将确保公平的竞争环境，同时增强欧洲在人工智能方面的竞争力和产业基础，联盟一级的共同行动也可以保护联盟的数字主权，并利用其工具和监管权力来制定全球规则和标准。
查看更多关于欧盟提出人工智能监管法草案 构建欧盟统一人工智能治理体系的详细内容...