1-Click: Make哔哩哔哩Easy
Attention is All you Need
摘要
本视频由王树义老师主讲，深入探讨了人工智能在学术研究中的合理使用边界。AI可作为高效辅助工具处理文献综述、数据清洗和语言润色等任务，但绝不能用于生成代表人类行为的核心研究数据。关键在于区分AI作为“分析工具”（绿区）与“数据生成器”（红线），前者增强对现实的洞察，后者则破坏科学的真实性与可复现性。
亮点
- 🔍 AI作为分析工具（如显微镜）能帮助研究者观察真实数据，属于可接受的“绿区”
- ⚠️ 使用AI生成虚拟问卷或实验数据（即“硅基取样”）违背科学真实性原则，是不可逾越的“红线”
- 🔄 AI基于概率而非逻辑生成内容，输出结果缺乏稳定性，与科研所需的可复现性相冲突
- 🤖 AI具有“逢迎倾向”，倾向于迎合用户预期而非提供客观事实，可能扭曲研究结论
- 🧠 研究的核心环节——选题、设计、解读——必须由人类主导，AI仅是“超级实习生”，不能成为作者或研究方法
思考
- 因为AI生成的数据反映的是大语言模型的概率分布，而非真实人类行为，会导致研究对象从“人类社会”变成“AI模型本身”，丧失科学真实性。
- 允许用于文献综述、数据清洗、语言润色、代码调试等辅助性任务，但必须透明披露使用情况，且不能承担作者身份或主导研究设计。
术语解释
- 硅基取样：指利用AI模拟人类填写问卷或参与实验的行为，以生成研究数据；因数据非源于真实人类，被视为学术红线。
- 绿区：指AI在学术研究中被允许使用的范围，如作为分析工具辅助处理真实数据，增强人类对现实的理解。
- 模型坍塌：当AI生成的数据被反复用于训练新模型时，会导致模型逐渐丧失对真实世界分布的捕捉能力，输出越来越失真。
- 可复现性：科学研究的基本原则，要求相同条件下实验或分析应得出一致结果；而AI的随机性和概率性输出与此原则相悖。