youpaishidifu/msgbot
1
1
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
514 Commits 1 Branch 0 Tags
93a7d0be6c460a826725c0a8d96bf97fb8af2484
Commit Graph
100 Commits
This Branch
This Branch
All Branches
Author SHA1 Message Date
youpaishidifu 93a7d0be6c fix: 修复时间戳继承、补分DB检查、OCR急停、SequenceMatcher作用域问题 (Task #1661-1663) 
- Task #1661: OCR时间戳丢失时无时间戳消息继承前驱时间戳新鲜度
- Task #1662: 补分逻辑三重DB检查，DB不存在时跳过补分
- Task #1663: OCR readline循环添加_stop_event检查，支持急停
- 修复SequenceMatcher局部导入导致的UnboundLocalError
 2026-09-01 22:06:22 +08:00
youpaishidifu eccc1a4247 fix: 修复评分加分逻辑问题，确保补分到5真正达到至少5分 (Task #1660) 2026-09-01 11:41:44 +08:00
youpaishidifu b23b243695 fix: 修复OCR时间戳过滤失效问题，过去日期+问号放行，纯历史消息丢弃 (Task #1659) 2026-09-01 10:32:52 +08:00
youpaishidifu 1f8be2b569 fix: 全面防御性编程确保所有数据库表存在，解决多个no such table错误 (Task #1658) 2026-09-01 09:41:03 +08:00
youpaishidifu 9726945b25 fix: 防御性编程确保keyword_scores表存在，解决no such table错误 (Task #1657) 2026-08-31 23:39:38 +08:00
youpaishidifu 589ea7ef4e fix: 防御性编程确保数据库表存在，解决user_messages表不存在错误 
- 添加_ensure_user_messages_table()方法：检查并创建user_messages表
- 添加_ensure_bot_messages_table()方法：检查并创建bot_messages表
- 添加_ensure_ocr_staging_table()方法：检查并创建ocr_staging表
- 在record_user_message、record_bot_reply、record_ocr_message、clear_ocr_staging方法开始处调用相应的防御性检查
- 解决0字节msg_history.db文件导致的'no such table: user_messages'错误

Task #1655
 2026-08-31 22:28:14 +08:00
youpaishidifu ba6f3a3afb fix: 修复OCR消息被误判为bot回复碎片的问题 (Task #1654) 
问题：'关于我们'、'服务器基本信息'等短查询被误判为bot回复碎片而丢弃
根因：bot回复碎片检测逻辑过于宽松，字符重叠率≥50%且cjk≥2就判定为碎片
修复：
1. 添加问句豁免：包含疑问词或以问号结尾的消息跳过碎片检测
2. 添加前缀豁免：短消息（<10字符）如果是已回复文本的前缀，视为用户查询
3. 调整策略1阈值：最长公共子串占比≥70%且≥5字符（原≥60%且≥3字符）
4. 调整策略2阈值：字符重叠率≥60%且cjk≥3（原≥50%且cjk≥2）
5. 策略3要求文本长度≥5（防止短消息误判）
 2026-08-31 21:24:21 +08:00
youpaishidifu 5e81a79ec1 fix: 修复去重误判问题，使用exclude_self=True避免自我比较 (Task #1654) 
问题：record_user_message调用_is_similar_to_history时使用exclude_self=False
导致自我比较产生100%相似度，误丢弃正常消息（如'服务器基本信息'）

修复：
1. 使用exclude_self=True避免自我比较，只与历史消息比对
2. 添加防止重复入库的检查（插入前检查是否已存在完全相同的消息）
3. 测试验证：'服务器基本信息' vs '服务器I' → 20% < 50% → 通过检查
 2026-08-31 18:31:50 +08:00
youpaishidifu 4f61ee3aac fix: 修复OCR捕捉含年月日消息导致后续消息丢失的问题 (Task #1652/#1653) 
问题：当上面一条消息有年月日时，下面的消息会丢失目标定位，需通过表情包/图片才能重新加入消息队列
根因：_ocr_text_has_fresh_timestamp对整个文本块检查，任何部分含历史日期都会导致整段文本被丢弃
修复：
1. 新增_strip_historical_date_lines辅助方法，按行分割文本并智能剥离历史日期行
2. 修改_process_ocr_output中的时间戳新鲜性检查逻辑
3. 当检测到历史日期时，先尝试剥离旧消息行，保留新鲜消息继续处理
4. 仅含日期无时间的表格日期：剥离日期但保留行内容
5. 含日期+时间的历史消息行：完全剥离
6. 无日期的行：完整保留
 2026-08-31 11:57:51 +08:00
youpaishidifu 5b9b0ff7ac 修复两个问题： 
Task #1651:
1. OCR终止无响应修复
   - 在_dual_engine的join循环中添加_stop_event检查
   - 在ocr_read_qq和ocr_read_wechat的关键time.sleep前添加急停检查
   - 确保急停时能立即退出OCR流程

2. 年月日消息过滤优化
   - 修改ocr_text_has_fresh_timestamp方法
   - 当所有日期都没有时间时，判定为表格日期，剥离后继续处理
   - 当混合情况（部分有时间，部分无时间）时，剥离无时间的表格日期
   - 只有年月日+时分的消息才会被丢弃
   - 仅有年月日的表格消息会剥离后继续处理

测试验证：
- 急停响应时间：0.101秒（< 0.5秒）
- 年月日消息过滤：5个测试用例全部通过
 2026-08-31 10:09:22 +08:00
youpaishidifu 63f8c749c1 修复两个问题： 
Task #1647: 陈旧消息过滤策略重构
- 超过1小时的消息返回-10.0分（扣10分）
- 消息分数≤0时丢弃该消息
- 验证并提交

Task #1648: 异步非阻塞OCR处理
- 添加后台OCR状态变量和线程管理
- 实现_start_ocr_bg方法启动后台OCR
- 实现_check_ocr_bg_result非阻塞检查结果
- 修改_poll方法使用异步OCR避免GUI阻塞
- 添加超时处理和急停清理
- 所有测试通过
 2026-08-31 00:10:24 +08:00
youpaishidifu 99abaa92bb fix: 修复病句漏过与陈旧时间戳放行(Task #1645/#1646) 
- #1645: 候选处理循环补全病句/噪声二次拦截(_is_noise_text)。
  段级预分割在全噪声时回退返回原文本，导致"话又说回来。"这类
  无动作无主语破碎句漏到下游进KB搜索，现每条候选再跑一次兜底。
- #1646: 时间戳新鲜度逻辑增加硬性拒绝。freshness_score==1.0 表示
  含时间戳且距今>1小时(如22:32放行21:29的1h3m旧戳)，视为OCR继承
  的陈旧时间戳，拒绝处理；无时间戳(freshness==0)仍按旧逻辑补分。
 2026-08-30 23:05:17 +08:00
youpaishidifu 59ae875acc fix: 优化同轮语义去重——降低关键词重叠阈值至25%+动作词检测 
- 骨架完全相同 → 跳过
- SequenceMatcher相似度>=70% → 跳过
- 关键词重叠>=25% 或 含核心动作词且重叠>=3 → 跳过

修复场景："我想知道那个怎么撤销导入的兑换码" vs "那啥怎么去撤销那个导入过的激活码"
两消息共享动作词(撤销/导入)和4个关键词，判定为重复
 2026-08-30 22:12:01 +08:00
youpaishidifu 4f378ee5b8 fix: 修复OCR变体误判和同轮重复回复问题 
1. 添加OCR字符规范化：逍→道、甬→用、兕→兑等常见OCR错误
2. 添加同轮语义去重：骨架匹配+Jaccard相似度>=85%则跳过
3. 修复重复return语句
 2026-08-30 21:56:23 +08:00
youpaishidifu 0e3ea2abc7 fix: 修复重复查重导致消息被误跳过（Task #1642 follow-up） 2026-08-30 19:07:58 +08:00
youpaishidifu bbc00f2c8b fix: 修复消息拼接/丢弃问题——同轮择优改为逐条处理所有候选消息 (Task #1642) 
- 旧逻辑：_candidates列表按质量分排序，只选1条最好的处理，其余全部丢弃
- 新逻辑：for循环逐条处理所有候选消息，每条独立查重、入库、KB搜索和回复
- 修复用户报告：OCR一次读到4条消息后只有1条被处理，其余3条丢失
- 用户原话：不要把消息都拼接成一条，不然一个拦截剩余的全部丢了
 2026-08-30 18:46:26 +08:00
youpaishidifu 3bb8c50969 fix: 修复消息去重相似度算法，改用3-gram Jaccard避免误判 (Task #1641) 
- 添加 _generate_ngrams() 函数生成连续n字片段
- 修改 _is_similar_to_history() 使用3-gram Jaccard相似度
- 阈值从50%调整为30%，更准确地识别重复消息
- 解决不同问法被误判为重复的问题

测试结果：
- '如何打印玩家流水' vs '玩家流水怎么操作的': 50%→18% (正确区分)
- '如何打印玩家流水' vs '我想知道怎么打印玩家的流水记录': 75%→12% (正确区分)
 2026-08-30 17:56:40 +08:00
youpaishidifu a302c7a889 fix: 修复急停后GUI开关状态不更新+EasyOCR不恢复+无法重启 (Task #1640) 
gui.py:
- _on_emergency_stop: 急停后立即通知 OCR 管理器 set_monitor_active(False)
- _update_stop_ui: 用 deselect() 替代 _variable.set(False)，更可靠地更新开关视觉状态
- _update_stop_ui: 添加20秒安全超时，强制重置 _stop_in_progress（防止 stop() 挂起导致永远无法重启）
- _toggle_monitor: 添加安全检查，monitor 已停止但 _stop_in_progress=True 时强制重置

monitor.py:
- _emergency_stop: 设置 _stopping=True 防止 stop() 重复执行清理（join已死线程+重复杀EasyOCR）
- _emergency_stop: 完成后重置 _stopping=False，确保后续 start() 正常执行

根因分析：
1. GUI开关不更新：CTkSwitch._variable.set(False) 在 customtkinter 中不可靠，改用 deselect()
2. 急停后无法重启：stop() 中 _release_memory() 可能挂起（torch.cuda/EmptyWorkingSet），
   导致 _stop_in_progress 永远不重置，_toggle_monitor 拒绝重启
3. EasyOCR不恢复：急停后未通知 OCR 管理器，引擎状态不一致,description:提交修改}
 2026-08-30 17:04:16 +08:00
youpaishidifu d52c4ef2f5 fix: 修复消息入库后被查重跳过的问题 
monitor.py:
- 修改 _is_similar_to_history 函数：添加 exclude_self 参数
- exclude_self=True 时排除自身刚入库的记录，防止'入库→查重→跳过'死循环
- 修改 _poll 中的调用：使用 exclude_self=True 排除自身
- record_user_message 中的调用保持 exclude_self=False（默认值）

问题分析：
消息在 _process_ocr_output 中被入库（record_user_message），
然后在 _poll 中被查重（_is_similar_to_history），
发现与刚入库的消息相似（100%），所以被跳过。

解决方案：
在 _poll 中使用 exclude_self=True，
排除自身刚入库的记录，防止死循环。
 2026-08-30 16:32:35 +08:00
youpaishidifu 778d269e50 fix: 修复消息去重失效问题：添加数据库查重逻辑 (Task #1639)\n\nmonitor.py:\n- 添加 _clean_text_for_dedup 函数：清理文本只保留中文字符\n- 添加 _is_similar_to_history 函数：检查消息是否与历史消息相似\n- 修改 record_user_message 函数：入库前进行数据库查重，清理后计算相似度，重复率≥50%就跳过\n- 在轮询逻辑中添加数据库查重：在候选消息构建时检查，与历史消息相似则跳过\n- 修复用户报告的问题：1条消息产生4条记录，去重失效 2026-08-30 15:38:32 +08:00
youpaishidifu 0552df5287 fix: 修复停止按钮死循环+EasyOCR预热误触发+历史消息时间戳过滤错误 (Task #1638) 
gui.py:
- 添加 _stop_in_progress 标志防止停止/启动死循环
- _toggle_monitor 检查 _stop_in_progress 标志防止重入
- _update_stop_ui 和 _stop_monitor_async 中正确设置和重置标志

monitor.py:
- 添加 _easyocr_warmup_generation 代际计数器防止死循环中旧预热线程错误初始化 EasyOCR
- 预热线程检查代际匹配防止跨 start/stop 周期的旧线程执行
- 移除 has_past 分支中的 skip_future_check=True，修复历史消息误判为新鲜的bug
  根因：skip_future_check 让未来时戳（如14:09看到21:15）通过检查，
  但OCR只能看到已发送消息，未来时戳必然来自过去日期
 2026-08-30 14:44:05 +08:00
youpaishidifu 52013d28c1 修复停止按钮死循环和消息落库问题 2026-08-30 14:03:53 +08:00
youpaishidifu 96f07353ba feat: monitor→GUI日志回调，EasyOCR子进程初始化状态可在GUI日志中查看 
- MessageMonitor 新增 _log_callback / set_log_callback / _gui_log
- _delayed_easyocr_start 启动时输出「🔧 EasyOCR 子进程初始化中...」
- _handshake_easyocr_subprocess 成功/超时/失败时输出对应状态
- _start_easyocr_proc_locked 启动失败时输出错误
- start() 中 _HAS_EASYOCR=False 或 broken 时输出警告
- gui.py 在 _log_queue 创建后调用 monitor.set_log_callback(self._log)
 2026-08-30 12:26:59 +08:00
youpaishidifu d2a4b4c0ea fix(msgbot): 修复内存未释放——延迟easyocr/torch导入+修正SetProcessWorkingSetSize参数+添加_heapmin（Task #1625） 2026-08-29 23:35:31 +08:00
youpaishidifu d3bb961c90 fix(msgbot): 修复OCR时间戳过滤器误丢含问号的新查询——旧消息时间戳拖累新消息丢弃（Task #1624） 2026-08-29 23:14:54 +08:00
youpaishidifu 781a578412 fix(msgbot): 修复OCR空列表IndexError并增强stop内存释放至最低占用 
Task #1622: 行合并循环在 merged_lines 为空时无条件访问 merged_lines[-1]
抛 IndexError，被最外层 except 记为 [qq] OCR失败: list index out of range。
增加 `if merged_lines else False` 守卫，首行非@结尾/不含问号/非bot回复时
不再越界。

Task #1623: 原 _release_memory 仅 SetProcessWorkingSetSize(-1,-1) 不逼出常驻
页，且未释放 winrt Windows OCR 引擎、未清 GPU 缓存，导致 bot 运行后暂停
内存仍高达~600MB。增强为 EmptyWorkingSet 强制归还物理内存 +
torch.cuda.empty_cache/synchronize + 释放 self._ocr_engine 引用，与 GUI 侧
_force_system_memory_cleanup 范式一致，使运行后暂停与刚启动待机内存一致。
 2026-08-29 21:55:59 +08:00
youpaishidifu 6b30101806 fix(msgbot): 强化OCR逗号断行合并——前一行以逗号结尾时忽略下一行短句/问号特征强制合并 
- EasyOCR常在中文逗号处拆行，导致"兑换码插件导入错误，怎么处置?"被分成两段
- 修复1：前一行以逗号结尾时，即使下一行含问号，也合并（逗号是停顿，不是消息边界）
- 修复2：前一行以逗号结尾时，忽略下一行短句/名字特征强制合并
- 原因：逗号是用户日常发言的停顿或语句分割，不应作为消息边界
EOF
)
 2026-08-29 21:26:20 +08:00
youpaishidifu 4a7544c989 fix(msgbot): bot表格日期剥离——只有年月日无时间→表格内容不用于丢弃判断 
- 检测每个日期后是否紧跟时间（年月日+时:分 → 真消息；只有年月日 → bot表格）
- 若所有日期均无时间→判定为bot表格日期→剥离后继续处理，不触发历史消息丢弃
- 场景：用户问"近期公告"→bot回复表格含"2026年8月3日"→OCR读到日期→原逻辑整条丢弃→用户新消息丢失
- 修复后：表格日期被剥离，用户消息正常进入下游处理
 2026-08-29 18:24:51 +08:00
youpaishidifu c55c382358 fix(msgbot): re.search()返回值缺bool()包装导致|=类型错误 
- 第7863行/7875行：`'@' in text and re.search(...)` 赋值为 re.Match 而非 bool
- 后续 `|= any(...)` 触发 re.Match |= bool → TypeError
- 修复：两处均加 bool() 包裹，与第7819行一致
 2026-08-29 17:46:24 +08:00
youpaishidifu 19019f80d3 fix(msgbot): 描述性碎片拦截——以"拥有/提供/支持"等动词开头+无主语+无问词→碎片 
- 新增 _descriptive_verbs 检查（len<=10 短文本分支内，核心名词豁免之前）
- 例："拥有完善的领地系统"→描述性动词开头+无主语→碎片丢弃，不再触发错误 KB 回复
- "领地系统"、"登录配置"等无描述性动词前缀的合法短查询不受影响
 2026-08-29 16:16:50 +08:00
youpaishidifu e0da52ead8 fix(msgbot): 修复历史消息漏放导致自言自语 + user_messages未入库 
- 修复 _ocr_text_has_fresh_timestamp：无日期+时间戳全部过期(>300s) 时由误放行改为丢弃。
  原"OCR时间戳不准确"假设会让QQ窗口中12:08/12:24等历史老消息被当作新消息，触发自言自语。
- 在"无日期+新鲜时间戳"与"无日期+无时间戳中文"两条放行路径补上 record_user_message，
  修复 user_messages 表长期为空、跨轮去重失效的问题。
 2026-08-29 15:09:33 +08:00
youpaishidifu c3f0fa0882 feat: 停止信号优先 + DB环形缓冲区 (Task #1617 + #1618) 
Task #1617 停止信号优先机制:
- 新增 threading.Event (_stop_event) 作为主停止信号
- 新增 _interruptible_sleep() 包装 Event.wait(timeout)
- 所有关键 time.sleep() 替换为 _interruptible_sleep()
- _poll 检查点同时检测 _stop_event.is_set() 和 _running
- stop()/_emergency_stop() 先 set() 唤醒阻塞线程
- start() 清除残留 stop_event

Task #1618 DB落库修复 + 环形缓冲区:
- user_messages/bot_messages 每平台最多10条 FIFO
- 物理重启时不清空这两张表(仅清空 ocr_staging/keyword_scores)
- 新增 SQLite 临时文件到 .gitignore

其他:
- 删除 _ocr_blue_test.py / _ocr_crop_test.py 调试文件
 2026-08-29 13:17:58 +08:00
youpaishidifu 96388d18f9 修复Bot自言自语拦截：不再仅依赖recent_replies，同时检查_replied_texts 
根因：Bot自言自语拦截条件为recent_replies不为空，但物理重启后
DB被清空→recent_replies为空→拦截逻辑完全不执行。

修复：构建_self_check_sources列表，合并recent_replies和_replied_texts。
_replied_texts在物理重启时保留（Task #1616），确保拦截逻辑始终有效。
 2026-08-29 12:20:07 +08:00
youpaishidifu f0f2c39d71 修复重启后Bot自言自语：物理重启时不清空_replied_texts去重集 
根因：_force_clear_all_residual_data(clear_db=True)在物理重启时
同时清空_replied_texts和DB，导致QQ窗口中旧bot回复的OCR捕获
无法被任何查重机制拦截。

修复：_replied_texts代表QQ窗口中可能仍可见的bot历史回复，
物理重启时保留该集合，仅清空_seen_messages和其他状态。
_replied_texts在__init__阶段从DB加载后跨重启持久。
 2026-08-29 10:21:08 +08:00
youpaishidifu c34ed371eb 修订时间戳新鲜度评分逻辑：≥5分直接放行，<5分查DB决定是否补分到5 2026-08-28 20:10:16 +08:00
youpaishidifu cb48663d87 Task #1611 v2: 修复过去日期分支pass导致return False的bug 2026-08-28 18:07:40 +08:00
youpaishidifu 279370271c Task #1611: 修复过去日期+未来时间戳被误丢弃 
问题：OCR识别到过去日期(2026/8/25)，但时间戳是今天的(17:45:35, 18:17:27)，
被误判为未来时间戳丢弃，导致用户新消息丢失。

根因：过去日期分支调用_is_timestamp_old时未传skip_future_check=True，
导致时间戳比系统时间晚时被拦截。

修复：过去日期分支增加skip_future_check=True参数，
当日期识别错误但时间戳正确时，信任时间戳判断新鲜度。

场景：OCR把今天日期误读成过去日期，但时间戳正确
例：2026/8/28 → 误读成 2026/8/25，但时间戳17:45:35正确
 2026-08-28 17:32:36 +08:00
youpaishidifu 9093458f9c Task #1610 修复：未来时间戳容忍偏差扩大到300s 
根因：_TS_FUTURE_TOLERANCE_S=15秒太严格，OCR读到16:18:39的消息在16:18:58被处理时，
被误判为"未来时间戳"（差19s），导致消息被丢弃。

修复：将容忍偏差从15秒扩大到300秒（与max_age持平）
- 300秒以内的时间戳偏差全部视为有效（含OCR延迟/队列积压）
- 300秒以外的才判定为"未来时间"直接丢弃

效果：16:18:39的消息在16:18:58被正常识别为新鲜时间戳（19s<300s）
 2026-08-28 16:54:45 +08:00
youpaishidifu 4404fb40f7 Task #1609 修复：同轮择优逻辑优先处理最新消息而非最旧消息 
根因：OCR读到两条消息（17:45和18:17），质量分评估未考虑时间戳新鲜度，
导致旧消息因关键词'插件'加分更高被选中

修复：在质量分评估中加入时间戳新鲜度奖励（≤300秒+5分，≤600秒+3分，≤1800秒+1分），
并修改排序逻辑：先按质量分降序，再按时间戳差值升序（越新鲜越好）

效果：当多条消息质量分相近时，优先处理最新消息
 2026-08-25 18:27:52 +08:00
youpaishidifu 2726863405 Task #1608 修复：过去日期文本中含新鲜时间戳时被误丢弃 
根因：OCR一次读到的文本同时含历史内容（公告表格）和新消息
例：'2026年8月3日 | 升级服务器...' + '17:45:35 登录插件在哪儿下载'
当前逻辑有过去日期→全量丢弃，误伤新消息

修复：检查是否有新鲜时间戳(≤300s)，有则放行（新消息特征），无则丢弃（纯历史消息）

触发场景：用户在新消息中@bot时，OCR同时读到了上一条bot回复的历史公告表格
 2026-08-25 17:55:03 +08:00
youpaishidifu c78c5a1636 Task #1607 修复：纯下载意图匹配错误 + OCR错误年份降级 
1. auto_reply.py: '哪儿下载?'等无核心词查询不应直接放行，
   改为全文回退检查（beibao.md全文不含'登录'等插件词→拒绝）
   修复 '在哪儿下载?' 误答背包插件问题

2. monitor.py: OCR错误年份(12026年)时增加本地时间戳辅助判断，
   时间戳新鲜(≤300s)则放行，否则丢弃
   修复历史消息中带今天时间戳时因OCR年份错误被全量丢弃
 2026-08-25 17:41:32 +08:00
youpaishidifu eac9ece77f Task #1606 修复：OCR识别错误日期（如12026年8月38日）导致查重失效 
Bug: EasyOCR把2026年8月3日识别成12026年8月38日→年份12026超范围被跳过→dates=[]→
过滤器1放行给下游→基线轮次选中近期公告触发二次回复，无查重日志。

Fix:
1. 年份解析前增加1900~2100范围检查，异常年份直接跳过不加入dates
2. 新增_ocr_fakedate_detected标志：无有效日期但检测到OCR年份异常（如12026）→丢弃
   防止历史消息特征被漏过无日期放行路径
3. 防御场景：未来日期（如2030年）、过去日期OCR噪声（年份畸形的历史记录)
 2026-08-25 16:40:20 +08:00
youpaishidifu 12f269acaf 修复下载类查询匹配错误：相关性检查阶段应用同义词映射（Task #1604） 2026-08-25 15:44:48 +08:00
youpaishidifu 35171d193b 修复OCR噪声过滤器误丢合法简短查询（Task #1603） 2026-08-25 11:55:28 +08:00
youpaishidifu ce6ff1a830 fix(Task#1602): 过去日期时间戳放行bug导致md表格残留漏网 
- _ocr_text_has_fresh_timestamp 中 has_past=True 时不应放行
- 根因：OCR抓取历史md表格（含旧时间戳如10:20:26），'新鲜时间戳'检查误放行
- 修复：有过去日期→直接丢弃（与has_today逻辑一致），不检查时间戳
- 前置修复：Task#1601 CUDA子进程探针（gui.py _probe_cuda_safety）
- commit eef3e08 已推 git.ypshidifu.cn
 2026-08-25 10:42:15 +08:00
youpaishidifu eef3e08f8f fix(Task#1601): gui.py CUDA子进程安全探针，防止access violation崩溃 
- 新增_probe_cuda_safety()静态方法：子进程做CUDA显存分配(torch.zeros(1,device='cuda'))
- 子进程崩溃(returncode=0xC0000005 ACCESS_VIOLATION)只杀子进程，主进程存活
- _check_memory_for_gpu()内存检查通过后调用探针，探针失败→降级CPU模式
- 验证：本机GTX1650+torch2.5.1+cu121探针returncode=3221225477，探针正确拦截
- monitor.py已有子进程隔离(_ensure_easyocr_subprocess)，无需修改
 2026-08-25 10:12:41 +08:00
youpaishidifu bdb4e5c168 fix(Task#1600): _is_noise_text新增Markdown表格管道残留检测 
QQ渲染的md表格(|日期|内容|...)被OCR抓取后，管道符结构未被is_noise_text识别，
导致表格碎片通过预分割管道进入KB搜索触发误回复。

修复：在过滤器2中新增管道残留检测：
- 模式A: 以|开头 + 2+管道符 → 整行表格片段
- 模式B: 3+管道符 + 含CJK → 截断表格片段
- 豁免: 含疑问词(?) → 可能是用户讨论表格语法
 2026-08-24 22:54:59 +08:00
youpaishidifu 5952b8672c 修复_is_noise_text中|运算符类型错误 
re.search返回re.Match|None与bool的|=报unsupported operand type(s)，
三处_has_user_msg_feature赋值处re.search外加bool()包装。
 2026-08-24 22:32:20 +08:00
youpaishidifu 08ddc5a89a 修复预分割配置碎片漏网导致用户消息被丢弃 
新增_is_config_fragment检测bot配置面板碎片（≥2配置键或空值截断标签），
在_split_and_denoise_segments逐段循环接入拦截，并对合并结果做二次净化逐行
恢复用户消息，解决单key碎片合并后凑够阈值被整体判噪声丢弃的问题（如"近期公告"）。
 2026-08-24 22:16:36 +08:00
youpaishidifu 1b36d92909 fix: Task #1595 修复UI时间戳误检导致消息误丢弃 
问题：OCR抓取配置面板+用户消息+UI时间戳时，_is_noise_text因检测到多条key:value而丢弃整段文本，包括其中的用户消息

修复：在噪声检测中添加用户消息特征豁免
- 包含@提及（如@利）→ 不丢弃
- 包含疑问词（吗呢多少怎么如何哪什么几）→ 不丢弃
- 包含明确查询意图（查/问/看+插件/功能/命令等）→ 不丢弃

应用场景：
- 配置面板显示+用户提问混排
- UI时间戳被OCR抓取粘连到文本末尾
- 避免误杀真实用户消息
 2026-08-24 18:03:09 +08:00
youpaishidifu ab598087ad Task #1592: 粗暴检测配置文件格式并丢弃 
- 在_is_noise_text方法开头实现配置文件格式检测
- 支持JSON格式、key:value对、等号分隔键值对、YAML/INI格式
- 无问号/疑问词时直接丢弃，不进入后续KB搜索
- 移除Task #1591在len<=10分支内的重复检测逻辑
 2026-08-24 17:29:04 +08:00
youpaishidifu 5e1ece6076 扩展配置文件格式检测，支持多条key:value拼接格式（如'图标: potato 标题:自杀'），忽略大小写/标点差异 2026-08-24 16:40:56 +08:00
youpaishidifu 3c118d3665 fix: 手动停止卡死+配置文件内容误触发自动回复 
问题1（Task #1590）：手动停止导致GUI卡死
- 根因：gui.py line 791 self.monitor.stop()在GUI主线程执行，线程join卡住时GUI冻结
- 修复：改为后台线程执行（复用_stop_monitor_async）

问题2（Task #1591）：配置文件内容"图标: shield"误触发自动回复
- 根因：_core_nouns含"图标"→残片过滤器放行→KB搜索命中sdf1_login→触发回复
- 修复：在_is_noise_text中增加配置文件格式检测（key: value格式，无问号/疑问词时拦截）

验证：正则^[\u4e00-\u9fff]{2,10}\s*[:：]\s*\S+$正确匹配配置文件格式，
正常查询（如"图标怎么设置"）不会被误拦。

Closes #1590 #1591
 2026-08-24 16:26:29 +08:00
youpaishidifu 06d58ee1c1 fix: 基线消息不再写入跨轮去重记录，消除自我阻塞 
根因：基线处理调用_add_to_recent_user_queries(item)将消息写入跨轮去重记录，
导致后续每轮OCR检测到相同消息时被自身匹配（100% Jaccard相似度）跳过。

修复：
- 移除基线处理中的_add_to_recent_user_queries调用（line 9321）
- if ts in seen: continue 处增加debug日志便于排查静默跳过

验证：剩余_add_to_recent_user_queries调用仅在消息被实际回复后触发，
不影响Task #1581双回复防护。

Closes #1589
 2026-08-24 15:36:06 +08:00
youpaishidifu f1fa31b3bb OCR残片过滤器放行核心名词查询：防止'近期公告'等被误丢 2026-08-24 14:39:48 +08:00
youpaishidifu a32400223a OCR时间戳拼接预处理：拆分日期+时间粘连，防止污染 2026-08-24 14:21:18 +08:00
youpaishidifu f74e59845e 修复OCR时间戳拼接污染：过去日期+新鲜时间戳放行给DB查重 2026-08-24 13:48:09 +08:00
youpaishidifu b83556f37f 修复OCR时间戳丢弃策略：无年月日消息放行给DB查重 
根因：QQ当天消息不显示日期，历史消息才显示"年/月/日 时:分"。
原逻辑对无时间戳消息放行，但对有时间戳无日期的消息过期就丢弃，
导致当天消息"12:36:05"被错误丢弃。

修复：_ocr_text_has_fresh_timestamp方法重写日期检查逻辑：
1. 有清晰年月日（四位年+月+日）→ 丢弃历史消息
2. 有不清晰年月日 → 用本地时间辅助判断时间戳是否过期
3. 无年月日 → 放行给下游DB查重（当天消息不带日期）

调用方简化：_ocr_text_has_fresh_timestamp返回False时直接丢弃。
 2026-08-24 12:59:42 +08:00
youpaishidifu 99d0e92e57 修复时间戳新鲜性检查日期误判：过去日期(昨天)的时间戳不再误判为≤300s新鲜 
根因：_is_timestamp_old只比较HH:MM:SS时间部分，不比较日期。
当OCR抓到昨天21:55:31的时间戳，当前系统22:00时，
时间差仅269s<300s→误判为'新鲜'→放行→触发KB搜索→答非所问。

修复：_ocr_text_has_fresh_timestamp中has_past_date分支，
检测到过去日期(昨天或更早)时直接返回False丢弃整段文本，
不再进入时间戳时间部分比较流程。

同时修复第二个问题：过去日期被误放行后触发KB查库但拒绝回复。
 2026-08-24 10:43:41 +08:00
youpaishidifu 0af8c68a73 修复两个OCR过滤bug 
1. auto_reply.py: has_meaningful_hit子串回退永远拒绝
   - 根因：q_mean是多字符token集合，set(heading_clean)是单字符集合
   - q_mean & set(heading_clean) 永远为空 → 子串回退永远拒绝
   - 修复：改为 any(kw in full for kw in q_mean) 子串匹配
   - 影响：sdf1_login下载查询(22.18分)被误拒

2. monitor.py: 过去日期时间戳过期整段丢弃
   - 根因：_ocr_text_has_fresh_timestamp返回False时（过期时间戳）
   - 调用方对含中文文本无条件放行 → 昨日旧消息被当作新消息
   - 修复：新增_has_past_date_timestamp方法检测过去日期
   - 调用方：过去日期+时间戳过期 → 整段丢弃
   - 场景：OCR抓到昨天(2026/8/23)的整屏内容被错误放行
 2026-08-24 10:16:40 +08:00
youpaishidifu 434a9609bf 修复下载类查询牛头不对马嘴复发：文档无下载token时拒绝 
问题：用户问在哪儿能下到那个登录插件，bot回复了protect文档的操作方式表格，
因为该文档heading含登录插件但body是操作方式，与下载无关。

修复：在_has_content_relevance方法中新增下载类查询额外防御——
当查询含下载意图词（下载/下到/哪下/在哪下/怎么下）时，
若文档全文（heading+title+body前800字）不含下载token，
直接拒绝该文档，防止牛头不对马嘴。

同时保留原有下载意图检查（heading含下载时放行），确保sdf1_login等下载文档正常匹配。

Task #1582
 2026-08-23 22:39:18 +08:00
youpaishidifu e826fbe0f0 修复基线消息不加跨轮去重记录导致重复回复 
问题：基线消息（首次成功轮询时标记的第一条消息）未加入 _recent_user_queries，
导致下一轮轮询时跨轮语义去重无法拦截100%相同的消息，触发二次回复。

修复：基线处理时调用 _add_to_recent_user_queries(item)，5分钟TTL内跨轮去重可拦截，
过期后用户重发仍可处理。

Task #1581
 2026-08-23 22:10:45 +08:00
youpaishidifu 7460d40940 fix: 修复启动时清空数据库逻辑，适配新表结构 2026-08-23 21:52:55 +08:00
youpaishidifu 2a3ecdba14 修复bot自言自语大小写不敏感问题 + 退出时后台内存回收不阻塞 
- monitor.py: 去重管道所有比较改为大小写不敏感（recent_replies时间窗口、_replied_texts、_fuzzy_duplicate、子串包含、长公共子串、_last_bot_reply_content）
- main.py: CTRL+C信号处理将内存回收放到后台线程，不阻塞退出
- gui.py: 无实质修改（仅格式）
 2026-08-23 21:30:05 +08:00
youpaishidifu 25b844098f fix(#1574): Bot自言自语拦截v2——拆行比对修复多行回复漏过 
根因：bot回复是多行（含表格），OCR只读首行（如'php有2种登陆模式:'）。
原比对把整个多行回复当一个字符串比较，CJK骨架/Jaccard被表格行稀释→漏过。

修复三处拆行：
1. recent_replies精确匹配：逐行 strip== 比对
2. Bot自言自语拦截(8928)：拆行做骨架/Jaccard/子串三策略
3. _last_bot_reply_content检查(9222)：拆行做SequenceMatcher/骨架/子串

新增策略3：CJK子串包含——OCR文本的CJK骨架是bot行CJK骨架的子串即拦截
（覆盖OCR截断场景：'有2种登陆模式'是'有2种登陆模式模式输入密码直登'的子串）
 2026-08-23 19:11:25 +08:00
youpaishidifu 308bae1fa5 fix: 修复OCR自言自语循环 - Bot回复归一化去重拦截 
根因：OCR读取bot自己回复时，文本格式差异（时间戳前缀、标点全/半角、空格）
导致精确/模糊匹配全部失效，bot反复回复自己的旧回复。

修复（Task #1574）：
1. 去重管道最前端新增「Bot自言自语拦截」：
   - 归一化OCR文本（去时间戳、去标点空格、只保留CJK）
   - CJK骨架完全相同 → 直接拦截
   - 归一化Jaccard相似度>=0.60 → 拦截
2. _last_bot_reply_content检查：
   - 相似度阈值从0.9降至0.65
   - CJK骨架长度要求从6降至4，覆盖短回复场景
 2026-08-23 17:59:59 +08:00
youpaishidifu 32f36dc5fd 任务#1570+#1572: 重构消息历史数据库为3表结构，改善OCR查重逻辑 
1. 数据库重构为3张表：
   - user_messages: 用户消息原文
   - bot_messages: bot消息原文
   - ocr_staging: OCR暂存（重启清空防自言自语）

2. 新增数据迁移：自动将旧表数据迁移到新表

3. 改善OCR查重逻辑：
   - 得分≥2时：检查与bot消息和用户原始消息的重合率
   - 重合率≥50%时丢弃（防bot自言自语和OCR残留）
   - 得分<2时：重合率≥70%丢弃

4. 新增OCR暂存记录功能：
   - 记录通过所有过滤器的OCR消息
   - 用于后续查重和审计

5. 新增get_recent_user_messages方法：
   - 获取最近的用户原始消息
   - 用于查重逻辑
 2026-08-23 16:41:53 +08:00
youpaishidifu 9152c3529f 任务#1441: 修复bot自言自语和双重回复问题 
**问题1: 自言自语**
- OCR把bot自己的回复再读一遍，当成新消息触发二次回复
- 修复: 查库对比bot历史回复，重合率≥50%（高分消息）或≥70%（普通消息）则丢弃

**问题2: 双重回复**
- 用户操作电脑打断bot回复发送时，_last_hash_replied标志被重置，下次轮询重复触发
- 修复: 新增_reply_in_progress标志，回复进行中时跳过所有轮询处理

**修改文件:**
- monitor.py: 添加_reply_in_progress状态追踪+动态阈值bot消息过滤
- gui.py: 在回复执行前后设置/清除_reply_in_progress标志
- _keyword_scorer.py: 新增get_last_score()方法用于查询得分而不记录
 2026-08-22 10:50:56 +08:00
youpaishidifu 1ab422cfd5 修复闲聊消息过滤：拦截'有时间吗'等无主题查询 2026-08-22 10:17:54 +08:00
youpaishidifu 05e7722816 修复Markdown标题过滤：支持无空格格式#xxx 2026-08-22 09:55:56 +08:00
youpaishidifu 7257bfb028 修复玩家昵称过滤：添加标准化匹配，忽略空格和括号差异 2026-08-21 13:04:15 +08:00
youpaishidifu dac243dcc0 新增编程格式块剥离函数，头部整段跳过，尾部切掉（含兼容格式匹配） 
- 新增 _strip_programming_format_blocks 函数，检测消息头部/尾部的JSON、YAML、Markdown表格等编程格式块
- 头部检测：JSON对象、Markdown表格、YAML块 → 整段丢弃
- 尾部检测：JSON对象、Markdown表格、YAML块 → 切掉尾部保留前段
- 兼容格式匹配：检测不完整JSON片段（中英文双引号包裹键值对，以逗号/括号结尾），即使OCR识别不完整也能拦截
- 在过滤管道中位于 _strip_json_yaml_blocks 之后调用
- 修复Markdown表格和JSON配置通过过滤器触发自动回复的问题
 2026-08-21 12:34:45 +08:00
youpaishidifu f337ad1df5 新增编程格式块剥离函数，头部整段跳过，尾部切掉 
- 新增 _strip_programming_format_blocks 函数，检测消息头部/尾部的JSON、YAML、Markdown表格等编程格式块
- 头部检测：JSON对象、Markdown表格、YAML块 → 整段丢弃
- 尾部检测：JSON对象、Markdown表格、YAML块 → 切掉尾部保留前段
- 在过滤管道中位于 _strip_json_yaml_blocks 之后调用
- 修复Markdown表格和JSON配置通过过滤器触发自动回复的问题
 2026-08-21 12:03:49 +08:00
youpaishidifu 04328d7022 新增bot回复格式说明碎片拦截（格式X: json格式等） 2026-08-21 11:44:25 +08:00
youpaishidifu 093ddb77d2 fix: _is_markdown_document增强，拦截含'第X步'的bot回复碎片 
问题：OCR把bot回复碎片'cdkl 1分 cdkz 2分 第三步:文件写好以后 游戏内/控制台执行/imp'
重新识别后进入队列，触发自动回复。_is_markdown_document漏检。

根因：
1. 第X步/步骤X检测用re.match行首匹配，碎片中'第三步'不在行首→漏网
2. 代码关键词列表缺少游戏服管理术语，只有1个命中(import不完整)不够阈值

修复：
1. 第X步/步骤X检测改为re.search全文匹配（用户日常不打'第X步'，全文命中即判定bot回复）
2. 代码关键词列表增加：控制台/执行/导入/插件（游戏服管理术语，用户日常不打）

commit: fcc2e51后同分支
 2026-08-21 11:33:05 +08:00
youpaishidifu fcc2e51777 fix: 修复中部孤立*导致用户查询被_is_noise_text误杀的问题 
问题：OCR把bot的**小姐姐**识别成小姐姐*，单个*粘在昵称后，
导致'小姐姐*, 关于我们'(len≤10)被_is_noise_text判为残片丢弃，用户查询丢失。

根因：
1. _is_noise_text的逗号分段放行逻辑在elif分支，len≤10时永远不走逗号分段
2. 过滤管道无清理中部孤立*的机制（_strip_markdown_head只剥开头，_strip_markdown_tail只匹配**）

修复：
1. _is_noise_text：在len≤10分支的return True前增加逗号分段放行检查
   - 短文本含逗号时，检查逗号后半部分是否含有效查询词（疑问词/动词/主语）
   - 后半部分有效→不丢弃，保留用户真实查询
2. 过滤管道增加孤立*清理步骤（正则: ([\u4e00-\u9fff])\*(?!\*)）
   - 清除中文字符旁的单个*（bot markdown加粗残留），不匹配**，不匹配英文场景
   - 覆盖4个调用点：for循环管道、尾部过滤、逐行过滤、去重后过滤
3. 预分割噪声检测也增加*清理

commit: 4个过滤管道+预分割+2个辅助方法，共73行变更
 2026-08-21 11:18:51 +08:00
youpaishidifu 3e1e8cb700 fix(ocr): 新增 _strip_markdown_head 剥离拼在用户消息【前面】的 md 列表标记 
根因：OCR 把 bot 的 md 列表项（- / * / > / # / 1. / [√]）拼到用户新消息前面，
旧 _strip_markdown_tail 只剥尾部，对头部 md 无能为力：
- 有空格 "- 关于我们" → 被误判为 md 大头整段丢弃（用户消息丢失，最糟）
- 无空格 "-关于我们" → 列表模式要求 \s+ 漏检 → 带 md 碎片入库污染查库关键词 → 查库无结果

修复：
- 新增 _MD_HEAD_PATTERNS + _strip_markdown_head()，循环剥离开头 md 标记，
  容忍缺失空格（-关于我们 也要处理）；剥完为空返回 None 整段丢弃；保留尾部用户真实提问。
- 安全边界：仅匹配单字符/空方括号（[√]/[ ]/[x]），绝不命中多字游戏名词[钻石]；
  用户日常不以 - * > # 1. 起头，剥这些前缀安全；->_ 服务器地址 箭头也能恢复。
- 集成进 4 个调用点（in-loop 过滤 / 尾部过滤含问句保护 / 逐行过滤 / 去重后过滤），
  顺序：bot旧回复剥离 → 头部 md 剥离 → 尾部 md 剥离 → md文档/噪声/回复残片判定。

独立单测 22 例全过（含多字方括号不误杀、纯 md 返回 None、箭头恢复）。
 2026-08-21 10:44:29 +08:00
youpaishidifu 80bc8519c1 增强Markdown过滤器检测中文编号列表和代码块内容，防止Bot自言自语 2026-08-21 10:01:36 +08:00
youpaishidifu 6155fd018c 修复系统撤回提示入库：新增自定义撤回消息模式到黑名单 2026-08-20 11:06:15 +08:00
youpaishidifu 13f3afab8a 修复行合并导致残片误杀：混合文本后半部分正常查询时放行 2026-08-20 10:38:53 +08:00
youpaishidifu 4d14fe0bc0 修复OCR残片过滤：新增表格单元格残片检测 2026-08-20 09:38:27 +08:00
youpaishidifu cf9f269eca fix: Markdown斜体过滤失效，*内容*应被丢弃却入库了 
根因：_is_markdown_document函数只检测**加粗语法，未检测*斜体*语法。
用户发'*@C418minecraft 小姐姐, 来测试一下Robot*'被当作正常消息入库。

修复：增加斜体标记检测（*content*），与**加粗**并列过滤。
bot回复用*斜体*是Markdown标准语法，用户日常聊天不打。

回归：斜体*content*→丢弃，**加粗**→丢弃，普通消息→保留
 2026-08-20 09:12:31 +08:00
youpaishidifu 29f3738c09 fix: 重试计时不准，修复Tkinter after()延迟问题\n\n根因：Tkinter的after()在窗口非活动时会延迟触发，\n导致实际重试间隔不是准确的5秒，可能变成十几秒甚至更长。\n\n修复：记录目标重试时间，执行前验证是否真的到了时机。\n若未到，重新调度；若已到，执行重试。\n这样确保重试间隔是实打实的5秒，不是虚的5秒。 2026-08-20 08:58:03 +08:00
youpaishidifu 589e277419 fix: NameError 'i' not defined in row merge loop\n\n修改行合并逻辑时用了i但没有enumerate，导致NameError。\n修复：for rl in ocr_lines → for i, rl in enumerate(ocr_lines) 2026-08-19 21:33:03 +08:00
youpaishidifu 7923dd15b0 fix: EasyOCR行数保护不受分数差影响，防Windows OCR粘连误选 
根因：行数差异保护原本在score_diff<10的分支内，
但用户截图场景：win=70.8(1行1495字符) vs easy=31.1(68行481字符)，
分数差39.7>10 → 整个保护被跳过 → 选Windows → 所有消息粘在一起。

修复：把行数差异保护移到score_diff判断之外，
只要EasyOCR行数>=Windows 3x就无条件选EasyOCR。
行数差异本身就是质量信号（行数多=切分准确）。
 2026-08-19 21:27:20 +08:00
youpaishidifu beb6812223 fix: 行合并把EasyOCR正确切分的消息错误合并\n\n根因：EasyOCR输出'没有个西瓜'+ '关于我们'是两条独立消息，\n但'没有个西瓜'不以_SENT_END结尾，被合并成'没有个西瓜，关于我们'。\n\n修复：新增'下一行保护'——若当前行后面是短消息(<12字)或包含\n昵称前缀(@/用户名开头)，不合并，保留EasyOCR正确切分。\n\n场景: '没有个西瓜'(6字)→下一行'关于我们'(4字<12)→不合并\n场景: '@C418minecraft'→不合并(@开头)\n场景: '你好，'+'世界'→正常合并 2026-08-19 21:12:19 +08:00
youpaishidifu ab8286b6fa fix: Windows OCR把多行合并成一行，修复引擎选择误选Windows\n\n根因：生产环境Windows OCR在某些机器/版本上将多条消息合并成一条长行\n（如20行→1行，421字符），导致长度保护逻辑误选Windows（win_len 421 > \neasy_len*1.3=333）。\n\nEasyOCR输出20行正确切分，但被长度保护否决。\n\n修复：新增「行数差异保护」——当EasyOCR行数>=Windows 3x时强制选EasyOCR，\n因为行数多=切分准确，行数少=Windows把多行合并成一条。\n\n场景1: win=1行421字32.5分, easy=20行256字31.0分 → 选easyocr(原选windows)\n场景2: win=1行100字45分, easy=15行300字50分 → 选easyocr(长度保护已触发)\n场景3: win=10行, easy=5行 → 选windows(正常，Windows行数多)\n场景4: win=60分, easy=30分 → 选windows(分数差异大不进保护)\n场景5: win=5行, easy=15行 → 选easyocr(3x触发)\n场景6: win=5行, easy=12行 → 选windows(<3x不触发) 2026-08-19 21:03:24 +08:00
youpaishidifu 61dc653915 fix: QQ头衔+bot账号垃圾消息过滤，清理查库队列 
根因：OCR把QQ群聊头衔[专业皮肤定制]、bot账号(youpaishidifu)自身回复识别为用户消息，
重启后_replied_texts清空，bot旧回复无历史记录可比对，全部混入查库队列。

修复：
- 规则2扩展：半角方括号[]匹配OCR头衔（原只匹配全角【】）
- 规则2b新增：行内嵌入头衔+无问号+长度≤30字→bot回复（头衔在消息体中间=bot特征）
- 规则7新增：含bot账号名(youpaishidifu)+无问号→bot系统消息，过滤

回归：截图场景4条垃圾消息全FILTER，关于我们/专业皮肤定制怎么配 KEEP，[GG]游戏管理员 FILTER
 2026-08-19 20:48:26 +08:00
youpaishidifu 81a9a7c51c fix: '关于我们'查询被打负分丢弃，index关于我们section回top1 
根因：导航/目录类section全局惩罚-30误伤精确答案——index.md'## 🎈关于我们'heading含'关于我们'被罚-30，
base分14.29→-15.71负分，相关性检查全丢弃。

修复：惩罚列表移除'关于我们'（导航/目录/欢迎/总览/文档导航保留），
'关于我们'是查询意图主体，命中即答案本体。

回归：关于我们→index 14.29 top1；服务器介绍/下载/皮肤更新/操作模式/菜单/公告全绿
 2026-08-19 20:28:34 +08:00
youpaishidifu 0de88aa084 fix: 修复'登录插件的菜单如何配置?'答非所问，菜单.txt进入top1 
- 配置文件section加权：查询含配置意图词+heading带.txt/json/yml后缀+命中非泛化词→+8
- 守卫记录分数最高命中section并提到doc_sections首位，防has_action重排+sub_k截断丢答案
- 核心名词bonus按出现次数计分(5/次上限15)，修复php后台玩家端仅含一处领地管理+15压过操作方式表
- 导航/目录/总览section全局惩罚-30，修复index文档导航对皮肤更新查询得28分压过skin文档
- 表格兜底答案级抬分30：操作/模式/方式意图+表格含操作方式列→protect操作方式表32分压过php误匹配

回归验证：菜单/领地操作模式/下载/公告/皮肤更新/登录账号/密码/打印流水全部top1正确
 2026-08-19 19:53:58 +08:00
youpaishidifu b8208d6b00 fix: 物理重启时清空数据库历史，彻底清除残留数据 
问题：物理重启后，_force_clear_all_residual_data() 清空了内存，
但 _load_replied_texts_from_db() 会从数据库重新加载历史回复，
导致 bot 仍能"凭空看见"已回复的消息。

修复：
- _force_clear_all_residual_data() 增加 clear_db 参数
- full_restart=True 时清空 message_history 和 keyword_scores 表
- full_restart=False 时仅清内存（急停恢复场景）

效果：
- 物理重启（python main.py）：清空数据库 + 内存，彻底清除残留
- 急停恢复（双击ESC）：仅清内存，保留数据库历史记录
 2026-08-19 18:22:52 +08:00
youpaishidifu e8ca16d1bc fix: 启动时强制清理所有残留数据，避免重复捕捉被跳过 
问题：急停后恢复时，内存中的去重集（_seen_messages/_replied_texts）
和语义指纹缓存（_recent_user_queries/_semantic_fingerprint_cache）
残留上次已处理的消息，导致新轮次OCR捕捉到相同内容时，
虽然时间戳已达标但仍被去重逻辑跳过。

修复：在 start() 入口处新增 _force_clear_all_residual_data()，
清理所有内存去重/冷却/缓存状态，不触碰数据库持久化记录。

清理范围：
- 消息去重集：_seen_messages, _replied_texts, _recent_processed_messages
- 语义指纹：_recent_user_queries, _semantic_fingerprint_cache
- 平台冷却：_last_reply_time, _last_new_msg_time, _failed_send_cooldown
- OCR缓存：_last_texts, _raw_clipboard, _last_clipboard_hash, _app_variant
- 响应式冷却：_foreground_cooldown_until, _self_reply_cooldown_until
 2026-08-19 17:47:49 +08:00
youpaishidifu e1a1078873 fix: 表格兜底通过时跳过核心词覆盖检查 
问题：'领地系统有哪两种操作模式?'查询命中protect.md的'温馨提示'
section（含操作方式表格），表格兜底放行后仍被多关键词覆盖检查拦截。

根因：表格兜底设置has_body=True，但核心词覆盖检查是独立逻辑，
要求5个核心词命中≥3个，而表格中只有'系统''操作'命中(2/5)。

修复：表格兜底通过时设置_table_fallback_used标记，核心词覆盖检查
跳过该检查，避免表格型答案被误杀。

验证：
- '领地系统有哪两种操作模式?' → 返回操作方式表格 ✓
- 其他查询的核心词检查逻辑不变
 2026-08-19 16:49:16 +08:00
youpaishidifu b02bb8c3eb 修复OCR残片检测：双策略匹配（最长公共子串+字符重叠率） 
问题：
- 单用最长公共子串策略，"端0(基岩版)" vs "端口(基岩版)" 相似度仅60%，未达80%阈值
- 导致碎片通过检测入库

修复：
增加双策略匹配：
1. 最长公共子串≥60%且≥3字符（严格）
2. 字符重叠率≥50%且中文字符重叠≥2（宽松，防OCR噪声）

验证：
- 端0(基岩版) → fragment=True ✓ (字符重叠"基岩版"=3字)
- 端0(Java) → fragment=True ✓
- 关于我们 → fragment=False ✓
- 那服务器有哪些基本信息 → fragment=False ✓
 2026-08-19 16:23:49 +08:00
youpaishidifu 416124ebc0 修复OCR残片入库：在基线轮前统一过滤bot回复碎片 
问题：
- 之前的检测代码在关键词打分循环中，但score=0的残片通过了打分
- 然后进入基线轮判断，被标记为"基线"跳过但仍在new_items中
- 同轮择优时又被选上，导致残片入库

修复：
将碎片检测移至基线轮判断之前（约8261行），对new_items统一过滤
- 计算文本与已回复内容的最长公共子串占比
- 占比≥80%且长度≥3 → 直接丢弃
- 例："端0(基岩版)" vs 已回复表格"端口(基岩版)" → 相似度85.7% → 拦截
 2026-08-19 16:21:54 +08:00
youpaishidifu 5982cadad6 修复OCR残片入库问题：新增bot回复碎片检测 
根因：
- 用户发送"关于我们@游戏专用"后，bot回复表格
- 下一轮OCR再次抓取同屏内容，把表格残片"端0(基岩版)"当成新消息
- 残片通过所有过滤（长度7有括号豁免短句检查，score=2放行）
- 残片入库后占用处理位置，导致真正的"关于我们"被跳过

修复：
在关键词打分前置增加bot回复碎片检测：
- 计算文本与已回复内容的最长公共子串占比
- 占比≥80%且长度≥3 → 判定为bot回复残片，直接丢弃
- 例："端0(基岩版)" vs 已回复表格含"端口(基岩版) | 30679" → 公共子串相似度≥80% → 拦截
 2026-08-19 16:11:54 +08:00
youpaishidifu dd21327806 修复单核心词查询正文覆盖死锁：max(2,...)对1词永远失败 
根因：'端0(基岩版)'→q_mean={'基岩'}, body_hits=1, 阈值=max(2,min(1,...))=2
1<2 → 必然返回False → 回复被拒，入库残片后后续轮询不回复

修复：max(2,...)→max(1,...)，单核心词时阈值=1即可通过
多核心词查询（q_count≥2）：max(1,...)≥2不变，防御强度不下降
 2026-08-19 15:56:58 +08:00
youpaishidifu fd147862c7 修复关键词打分器自拦截：时间比较排除刚插入的自身记录 
根因：
should_skip_message 先 record_message_score 落库(时间=now)，
再 _should_skip_by_time 按 message_hash 反查最后一条 → 命中的是
刚插入的自己 → db_time=now → '当前<=DB+5分' 永远拦截。
新消息首次出现即被拦，5分钟窗口永远走不完。

例：'那服务器有哪些基本信息，L ~' score=2(命中共用词'服务'/'务器')
时间比较命中自己 id=54(14:40:15) → 拦截，消息丢失。

修复：
record_message_score 返回 lastrowid，
_should_skip_by_time 增加 exclude_id 参数，查询排除自身。

验证：
- 新消息首次出现 → 放行(不再自拦截)
- 同文本5分内重现 → 拦截(去重仍生效)
- 同文本5分后重现 → 放行(时间超窗)
- 真实库下游测3/3 全部符合预期
 2026-08-19 14:50:23 +08:00
youpaishidifu c6b6a73970 修复[相关检查]：纯停用词查询模糊子串回退，容忍OCR/输入噪声 
- 问题：查询"关于我们儿"匹配到index.md"关于我们"(匹配度8.66)却未通过内容相关性检查，跳过回复。
- 根因：q_mean为空(关于/我们均为停用词)落入纯停用词分支，整串精确子串匹配"关于我们儿" in full失败即拒，多一个"儿"字符无法容忍。
- 修复：精确匹配失败后增加模糊子串回退——按stripped长度从大到小在full中查找连续片段，命中长度≥max(3, len*0.75)放行。
- 测试：单测4/4(案例+回归)，真实KB端到端：index 8.66→True，beibao 2.24/sdf1 0.60→False。
 2026-08-19 14:20:14 +08:00
youpaishidifu 50474db1c7 修复关键词打分器：时间比较逻辑 + OCR时间源选择 
1. 修复 _should_skip_by_time 方法调用参数缺失 text 的问题
2. 实现三源时间比较逻辑：
   - DB落库时间：历史记录的最后处理时间
   - OCR时间：从消息文本提取的时间戳（如'22:54:16'）
   - 系统时间：当前机器时间
3. 时间源选择规则：
   - |OCR时间 - 系统时间| ≤ 10秒 → 使用OCR时间（更准确）
   - 否则 → 使用系统时间
4. 重复判断规则：
   - 当前时间 > DB落库时间 + 5分钟 → 放行（新消息）
   - 否则 → 拦截（重复消息）
5. monitor.py 前置 OCR 时间戳提取，传递给打分器
6. 修复 threshold 默认值从 2 改为 1，确保 ≥1 分进入时间比较

参考：Task #1558, #1559
 2026-08-18 23:51:57 +08:00