以春天为主题的网站建设资源,江门网站建设公司,中国企业网是什么级别的媒体,域名交易网站不仅“上知天文、下知地理”#xff0c;似乎还能对答如流、出口成诗#xff0c;甚至还能写剧本、编音乐、写代码——最近#xff0c;一款名叫ChatGPT的人工智能聊天机器人火爆全球。由此#xff0c;一系列关于新一代技术变革、人工智能替代人力、巨头企业扎堆入局AI的讨论在…不仅“上知天文、下知地理”似乎还能对答如流、出口成诗甚至还能写剧本、编音乐、写代码——最近一款名叫ChatGPT的人工智能聊天机器人火爆全球。由此一系列关于新一代技术变革、人工智能替代人力、巨头企业扎堆入局AI的讨论在互联网上甚嚣尘上并引发资本市场跟进炒作。
然而随着越来越多的用户实测结果不及预期许多人也在重新审视ChatGPT是否真如想象中那么完美。热闹过后也许是时候开始冷静思考ChatGPT的发展模式面临哪些不可规避的问题和风险这对我国人工智能发展有何重要启示
ChatGPT 的“无所不能”和“无能为力”
问“ChatGPT和其他聊天机器人有什么不同”
答“ChatGPT是一种先进的语言模型具有更强的语言能力和知识范围能够与用户进行更自然有效的对话。” 以上是人民网财经和ChatGPT的一组对话截图。
正如ChatGPT在回答人民网财经提问时所言相较于此前科技企业推出的聊天机器人ChatGPT在智能化程度上大幅提升给对话者的感觉也“更聪明”。
2022年11月底ChatGPT由美国一家名为OpenAI的人工智能研究公司推出可以实现与用户之间的智能聊天对话属于偏任务型的多轮对话和问答系统。
“ChatGPT的出现是人工智能技术发展的一次飞跃。”传播内容认知全国重点实验室首席科学家张勇东表示其在交互和创作方面展现的出色能力标志人工智能由决策式向生成式转变。
中国信通院云计算与大数据研究所内容科技部副主任石霖介绍ChatGPT的技术基于OpenAI开发的GPT3.5系列模型。该模型参数规模据推测达十亿级别加之在训练过程中引入人类反馈机制技术使得ChatGPT在回答准确率、道德表现上进一步得到提升。
近期有研究发现ChatGPT的“聪明”程度足以通过美国行医执照、研究生入学等考试。清华大学计算机科学与技术系教授黄民烈表示目前ChatGPT的对话能力已超出人类平均水准未来其能达到的类人对话水平值得期待。
不过看似“无所不能”的ChatGPT也会存在“无能为力”的尴尬。
如目前ChatGPT难以进行高级逻辑处理。在完成“多准快全”的基本资料梳理和内容整合后ChatGPT尚不能提供综合判断、修改调整、逻辑完善等“画龙点睛”之笔而这恰恰是人类高级智慧的体现。
此外用于ChatGPT语言模型训练的数据为2021年底前的数据因此在一些最新的数据和事件方面它可能会存在滞后。这在一定程度上造成了ChatGPT在内容准确性和知识性上的短板。不少用户反映它经常“一本正经地胡说八道”。 ChatGPT在常识问题和算术题上出现错误被网友戏称“一本正经地胡说八道”。
预训练“机器人”潜藏侵权风险和监管隐忧
以ChatGPT为代表的预训练模型“机器人”在预训练过程中需要“投喂”海量数据才能使得模型能够成功理解人类语言并模拟出愈加真实的类人表达方式。
据OpenAI的相关论文透露ChatGPT的训练集使用了总计约320TB的文字信息涵盖超4000亿词和约31亿个网页其中包括来自新闻、博客、社交媒体的内容。
但这种未经授权获取文本数据的预训练方式已引发争议和不满。推特Twitter现任首席执行官埃隆·马斯克就于近日宣布叫停ChatGPT访问Twitter数据库来获取培训数据声称“需要更多了解OpenAI的治理结构和未来收入计划”。
无独有偶近日拥有国际性体育资源的盖蒂图片社对同为人工智能企业的Stability AI提起诉讼指责其未经许可从其数据库中复制了1200多万张图片用于建立竞争性业务并侵犯了该公司的版权和商标保护权。 左图为盖蒂图片社原图右图为人工智能生成的图像其包含了盖蒂图片社的版权水印侧面印证了人工智能在学习过程中误将水印理解成了图片的一部分。图片来源于网络
张勇东表示类似ChatGPT这样的预训练模型其训练数据往往来源于书籍、网站等而其用于训练的语料未经授权存在版权风险。且这种训练过程往往不对外公开训练数据也不对外公布因此版权拥有者并不知情。待模型完成后生成的内容往往是原始训练数据的某种组合对外服务过程中就会存在侵犯原始版权的问题。
“这点与搜索引擎的服务机制不同。搜索引擎只是提供原始内容的链接但ChatGPT则是以自身生成内容的形式提供服务甚至连模型自己都无法确认是参考或综合了哪些原始素材。”他说。
正因如此对于人工智能生成内容不能全盘接收要注意甄别风险、加强监管正成为业界共识。
近日OpenAI首席技术官米拉·穆拉蒂在接受媒体采访时坦言和其他聊天机器人一样ChatGPT可能会编造事实也可能会被坏人利用需要政府部门尽早介入进行监管。
“从长远来看社会各界应该积极推动制定人工智能生成内容AIGC的规范标准。世界各国应该共同努力基于海量数据研发生产出更加符合全人类道德价值标准的内容。”张勇东说。
他建议要强化数据源头把控尤其是对涉及隐私、伦理、道德、政治偏见和种族主义等内容要进行更严格的数据审查和清洗。
石霖建议应加快布局人工智能安全标准、伦理规则的研究针对人工智能新技术可能带来的版权风险、内容风险等推动形成行业自律。同时还应做好AIGC技术应用的科普工作提升民众的科学素养和风险认识。
炒作“哑火”后思考行业长远发展
ChatGPT的爆红让OpenAI赚到了第一桶金也让各路资本争相入局。
2023年1月微软再次宣布向 OpenAI 投资数十亿美元。据了解这是目前人工智能领域规模最大的一笔投资。投资机构红杉资本预测未来AIGC有潜力产生数万亿美元的经济价值。
连日来A股市场也经历了人工智能概念股大幅波动。但随着监管函的下达炒作现象逐渐开始“哑火”更多关于人工智能行业长远发展的思考和理性声音正在出现。
针对人工智能将取代部分人类职业的网络讨论张勇东直言人工智能技术距离真正达到类人的程度还有很长一段路要走。目前以ChatGPT为代表的AIGC在逻辑性、可解释性和可溯源性方面都有待完善。
“国际上先进的人工智能发展都不是一蹴而就的而是有迹可循、不断突破的。”人工智能企业智谱AI首席执行官张鹏表示“ChatGPT的出现是否意味着人工智能已经‘踩’到了通用人工智能这一终极目标的‘门槛’还需冷静看待。”
多位行业专家表示可以预见的是在“人机共生”的未来时代人工智能确将解放人类、提高效率但其身份是“助手”而非“主人”。
而针对ChatGPT爆火引发的对国内人工智能产业的质疑也需要用更加全面的眼光来看待。
多年来我国人工智能产业在生态完善、技术研发、应用推广、人才建设等方面不断培育优势过去十年间专利申请量位居世界第一核心产业规模超过4000亿元。国际市场分析机构Gartner在研究报告中指出阿里巴巴、百度、腾讯等科技企业在语言AI技术上的排名进入世界前十位……
“ChatGPT的成功再次给我们提了个醒人工智能的发展需要在基础研究和技术研发方面不懈坚持。”张鹏表示过去我国人工智能产业对基础设施和技术的重视和投入不足。未来如何发挥长处、补齐短板真正实现我国人工智能领域的关键跃升值得期待。
展望未来石霖认为以ChatGPT为代表的AIGC技术应用将形成“智能底座服务”的商业模式。AIGC技术应用还将进一步发挥在数据、算力和算法上构筑的技术壁垒优势对人工智能的应用推广带来深层次变革。
他指出AIGC技术应用正在软件代码编写、工业设计、分子结构预测、基因编辑等科研生产领域探索应用场景帮助缩短研发周期、降低试验成本也将改变软件、工业、医疗、生物等行业运行模式。
张勇东表示过去十年人工智能领域主要围绕更好的感知和理解来发展比如自动驾驶、数字医疗。未来十年人工智能领域深层技术有望不断突破将具备重塑数字化内容生产和消费模式的强大潜力。
深度学习技术及应用国家工程研究中心主任、百度首席技术官王海峰认为融合大规模知识的深度学习是人工智能发展的重要方向。要联合产学研各方力量探索协同育人创新模式建立全方位多层次的人工智能人才培养体系。
