彩神9

有报告显示，我国生成式人工智能产品用户规模达2.49亿人。用户规模快速增长，AI幻觉潜藏的风险也随之增加。比如，如果一些看似合理却与现实相去甚远的内容被AI反复学习，会形成“数据污染—算法吸收—再污染”的恶性循环。有效防范由此带来的虚假信息泛滥，已成为不容回避的课题。

不过也有观点认为，AI幻觉可被视作一种“发散思维”和“想象力”。理论上，如果把训练一个大模型看作信息“压缩”的过程，那么大模型经过推理、输出答案就是一个信息“解压”的过程。这种处理信息的方式，可能会出现谬误，也可能触发新的创造。对发展尚未定型的新事物，要保持开放心态，辩证看待其利与弊，在有效防范弊端的同时，给予足够空间使之朝好的方向成长。

陈兴冶，男，1979年5月生，上海青浦人，研究生学历，教育学博士，上海市特级教师，正高级教师，博士生导师。自1999年7月入职上海市实验学校以来，陈兴冶历任教务处副主任、校务部（副）主任、上海市实验学校附属东滩学校校长等职，2017年任上海市实验学校副校长。

干部宣布大会上，上海师范大学党委书记林在勇为徐红颁发感谢状。徐红回顾了上海市实验学校的发展历程，也回顾了在她担任校长以来，她和学生、老师以及校园建立的深厚感情。徐红希望，她提出的“护长容短”的教育理念在上海市实验学校继续传承、发扬。

人类塑造工具，工具也影响人类生活。应对AI幻觉等问题挑战的过程，既促使人们思考改进工作方法，也为AI不断进化提供了源动力。激发新技术的正向价值，让AI更好融入生产生活、赋能千行百业，我们迈向智慧时代之路才能走得更加稳当、更加顺畅。

短时间内，AI幻觉问题难以被解决。各方都在努力降低其负面影响，相关部门也加大了对违规AI产品的处置力度，推动生成合成内容标识加速落地。一些大模型厂商在积极行动，比如文心大模型利用检索到的信息来指导文本或答案的生成，提高了内容的质量和准确性；通义大模型加强训练语料管理，通过“红蓝对抗”机制提升对虚假信息的识别能力。对广大用户而言，则要加快提升AI素养，学会“智慧”地运用“智慧工具”，既借助大模型破除思维定式、启发创新思路，又提高自身有效获取、理解、评估和使用信息的能力。

大模型的工作原理，是基于概率生成内容。给它上半句，它就根据自己“学”过的海量知识，“算出”下半句该说什么。比如，当用户输入“今天天气非常”，它大概率会接“不错”“热”“潮湿”等答案，而不会出现“甜”。同时，大模型又不是简单地储存所有事实，而会像人脑记东西那样，进行大量压缩和泛化——也就是“抓概要、找规律”。因此，当“喂给”大模型的训练数据包含虚假信息时，它就会产生“幻觉”、给出错误答案。

上海市实验学校前身为上海师范大学教育科学研究所举办的中小学教育体系整体改革实验班，上海师范大学对上海市实验学校具有党组织领导和教育科研指导的职责。上海市实验学校实行十年一贯弹性学制（小学4年、初中3年、高中3年），是全市唯一的学制改革实验项目学校，面向全市招生。所谓AI幻觉，可以通俗地理解为AI也会像人产生心理幻觉一样，遇到不熟悉或超出“知识储备”的问题时，编造一些并不存在的细节，生成与事实相悖的答案。一项调研显示，对于“公众认为使用AI应用过程中有哪些突出问题”，反馈最多的是“内容不准确，或含虚假信息”，占比高达42.2%。

彩神97月1日，上海市实验学校举行干部宣布大会。上海师范大学党委书记林在勇、党委组织部部长史佳华出席会议。史佳华代表上海师范大学党委组织部宣布任命决定，由陈兴冶同志担任上海市实验学校校长、党委副书记。

上海师范大学党委书记林在勇表示，当前上海市实验学校已经进入了新一轮发展的关键阶段，希望学校党政班子成员、全体教职员工进一步理清发展思路，探索办学路径，为学校高质量发展做出更大的贡献，继续在上海市乃至全国基础教育领域发挥示范引领作用。

＠联系我们
-应用内反馈:「我」-「右上角菜单」-「设置」-「反馈与帮助」
客户24小时在线服务

运用全新的功能，让使用更加安全便捷