AIGC爆火之后：若何平衡数据活动共享与平安庇护？

21世纪经济报导记者 钟雨欣 徐倩宜 南方财经全媒体 记者冯恋阁 北京、广州报导

生成式AI再次“引爆”全球言论存眷。3月15日凌晨，OpenAI 发布多模态预操练大模子 GPT-4。据官方介绍，GPT-4撑持图像和文本输进，以文本形式输出；文字输进限造提拔，能处置超越25000个单词的文本；更具创造力和准确性。

AI海潮席卷之下，国内大厂奋起曲逃，一天后，百度发布国内首款对标ChatGPT的产物“文心一言”，并在文学创做、贸易案牍创做、数理推算、中文理解、多模态生成等多个场景中展示了产物才能。

毫无疑问，AIGC（人工智能生成内容）正在给人类社会带来一场深入的变化。而剥开其令人目炫缭乱的华贵外表，运行的核心离不开海量的数据撑持。多位受访专家表达，ChatGPT等AI手艺在数据搜集、处置、输出等各环节都可能存在伴生风险，如未经受权搜集信息、供给虚假信息、损害小我隐私等等。监管方和相关企业亟需从轨制和手艺方面配合发力，加强AIGC范畴数据平安庇护。

数据泄露、隐私损害成隐忧

ChatGPT通过大量文本语料库停止操练，其深度进修才能很大水平上依靠于背后的数据。21世纪经济报导记者梳剃头现，出于对信息泄露的担忧，目前已有多家公司和机构发布“ChatGPT禁令”。

近日，软银、日立等日本企业已起头限造在贸易运营中利用ChatGPT等互动听工智能办事。软银就利用ChatGPT和其他类似利用警告员工称：“不要输进公司的可识别信息或奥秘数据”。日立则将考虑造定新的道德规则，以标准交互式人工智能的利用。

本年2月，摩根大通成为第一家在工做场合限造利用ChatGPT的华尔街投行。花旗集团和高盛集团紧随其后，前者制止员工在整个公司范畴内拜候ChatGPT，后者则限造员工在交易大厅利用该产物。而在更早些时候，亚马逊和微软为防备员工在利用ChatGPT的过程中泄密，制止他们向其分享灵敏数据，因为那些信息可能会被用做进一步迭代的操练数据。

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括在承受21世纪经济报导记者摘访时表达，ChatGPT做为大语言模子，它的核心逻辑事实上是海量数据的搜集、加工、处置和运算成果的输出。“总的来说，那几个环节可能会在手艺要素、组织治理、数字内容三个方面伴生相关风险。”

北京航空航天大学法学院副传授赵精武阐发，在数据平安和小我信息庇护范畴，ChatGPT等AI手艺的风险次要表示为用户输进的数据存在泄露风险，假使用户为了完成工做使命，输进了灵敏小我信息、贸易奥秘等信息，那些信息有可能被AI办事供给者留存。

南开大学法学院副院长、中国新一代人工智能开展战术研究院特约研究员陈兵传授进一步指出，根据ChatGPT相关隐私政策能够看到，用户在利用ChatGPT时，会被摘集有关用户拜候、利用或互动的信息。那意味着，包罗用户隐私以及用户对话的数据可能会被OpenAI摘集并存储在其数据中心。

“固然，ChatGPT表达，存储操练和运行模子所需的数据会严厉遵守隐私和平安政策，但在将来可能呈现收集进攻和数据爬取等现象，仍存在不成漠视的数据平安隐患。特殊是涉及国度核心数据、处所和行业重要数据以及小我隐私数据的挠取、处置以及合成利用等过程，需平衡数据平安庇护与活动共享。”陈兵说。

展开全文

除了数据与隐私泄露隐患外，同济大学法学院副传授、上海市人工智能社会治理协同立异中心研究员陈吉栋指出，AI手艺还存在着数据成见、虚假信息、模子的难阐明性等问题，可能会招致曲解和不相信。

大成律师事务所高级合伙人肖飒则强调了AI手艺“文本数据发掘功用”潜躲的合规风险。她表达，该功用不只能够“主动”搜集和存储数据，而且能在不竭的数据处置过程中构成本身的处置形式。若其所搜集的数据（含小我信息）并未获得合法受权，相关的处置活动就可能涉嫌违法违规。

国内企业引进ChatGPT需重视数据跨境合规

跟着生成式AI遭到科技界“热捧”，很多企业试图在本身营业中引进和利用ChatGPT办事。而根据ChatGPT运做原理，用户在输进端发问后，信息会传输到OpenAI办事器长进行运算，随后得到响应答复。

记者在手机利用商铺搜刮发现，很多App打着“AI聊天机器人”“基于GPT供给AI写做”的标语供给办事，有的曲称“可接进ChatGPT接口”。

肖飒指出，因为ChatGPT自己具备搜集、存储和利用数据的功用，且用户与其对话的数据也会被笔录，国内企业若引进ChatGPT办事，可能被认定为数据出境活动。

她介绍，在数据跨境合规方面，我国已经初步构成了相关的法令系统，次要存在三种合规出境体例，即平安评估、小我信息庇护认证和小我信息出境原则合同。“相关企业必需根据《数据平安法》《小我信息庇护法》等相关规定，治理数据出境活动，依法处事。”

在赵精武看来，假设国内企业试图引进ChatGPT办事，其合规要点在于：一是输进输出数据应当留存于境内；二是需要经由工信部等主管部分审核，获得响应的信息办事天分认证；三是若对用户小我信息权益产生本色性影响，需要停止小我信息平安影响评估；四是假设国内企业属于关键信息根底设备运营者，其引进ChatGPT办事还需要停止收集平安审查。

别的，在执法方面，陈兵表达，关于AIGC涉及的数据跨境畅通问题，应当在考虑国际通行原则和做法的根底上，造定合理的跨境数据平安执律例则，加强与其他国度和地域规则的跟尾，促进数据平安跨境执法协做。

加强全流程数据合规治理

面临前述潜躲风险，监管方和相关企业若何从轨制和手艺层面加强AIGC范畴的数据平安庇护？

吴沈括定见监管侧存眷三方面规则。“一是市场的准进和天分规则，确保优良主体进进该市场范畴。二是营业监管规则，确保主体的运行契合既定的监管框架要求。三是责任规则，要规定行为红线、责任红线，明白各方主体的责任范畴，标准市场次序。”

“相较于间接针对用户末端摘取限造利用等监管办法，明白要求AI手艺研发企业遵照科技伦理原则会更具效果，因为那些企业可以在手艺层面限制用户的利用范畴。”赵精武说。

肖飒表达，关于监管方而言，针对AI那种特殊的数据处置体例，更好在现行法令系统之下造定特殊的规章轨制，以规造企业运用AI各类场景下的数据处置行为。

陈兵认为，在轨制层面，需要连系AIGC底层手艺所需数据的特征和感化，成立健全数据分类分级庇护轨制。例如，可根据数据主体、数据处置水平、数据权力属性等方面临操练数据集中的数据停止分类治理，根据数据关于数据权力主体的价值，以及数据一旦遭到窜改、毁坏等对数据主体的危害水平停止分级。在数据分类分级的根底上，成立与数据类型和平安级别相配套的数据庇护原则与共享机造。

目光投向企业，陈兵定见加快鞭策“隐私计算”手艺在AIGC范畴的利用。“那类手艺可以让多个数据拥有者在不表露数据自己的前提下，通过共享SDK或者开放SDK权限的体例，在停止数据的共享、互通、计算、建模，在确保AIGC可以一般供给办事的同时，包管数据不泄露给其他参与方。”

此外，多位专家在摘访中强调了“全流程合规治理”的重要性。

“企业起首应存眷其所运用的数据资本能否契合法令律例要求，其次要确保算法和模子运做的全流程合规，别的，企业的立异研发应更大限度地称心社会公家的伦理等待。”吴沈括说。

陈吉栋定见企业从数据搜集、消费到利用的全生命周期展开轨制设想。“同时，手艺是法令监管的核心东西，可以确保监管的穿透性，需要用手艺守住数据合规底线。”

肖飒也表达了类似观点。她指出，企业应造定内部治理标准，设立相关的监视部分，对AI手艺利用场景的各个环节停止数据监视，确保数据来源合法、处置合法、输出合法，从而保障本身的合规性。

更多内容请下载21财经APP