Bịa chi tiết
hallucinationThông tin cụ thể, nghe hợp lý, nhưng không có thật.
Tên menu, endpoint API, số điều khoản, link tài liệu không tồn tại.
Output của AI lúc nào cũng trông như đã xong: câu gọn, bố cục đẹp, giọng chắc chắn. Vì vậy lỗi của nó rất khó thấy. Sổ tay này giúp bạn kiểm đúng chỗ, kiểm vừa đủ, và nói rõ mình đã kiểm tới đâu trước khi gửi cho khách hay cho team.
Trên hồ sơ của khách Nhật, ô 確認 chỉ được đóng dấu khi người kiểm đã thật sự đọc, và đủ hiểu việc đó để biết chỗ nào sai. Với output của AI cũng vậy: AI chỉ được đứng ở ô 作成.
Khách đồng ý toàn bộ1 phương án layout mới. Team có thể bắt đầu làm ngay2. Khách sẽ phản hồi thêm nếu có vấn đề3.
Verify không có nghĩa là nghi ngờ mọi thứ AI viết. Verify là biết lỗi hay nằm ở đâu, rồi kiểm đúng những chỗ đó bằng một nguồn nằm ngoài AI.
AI tạo ra câu trả lời nghe hợp lý nhất. Nó không tự biết lúc nào mình sai, nên câu sai và câu đúng được viết bằng cùng một giọng tự tin.
Con số, ngày, tên riêng, điều kiện, cam kết. Đây cũng chính là những thứ khách đọc kỹ nhất và dùng để ra quyết định.
Khách không phân biệt "AI viết" với "PM viết". Một biên bản sai do AI vẫn là biên bản sai của dự án.
Mọi kỹ thuật ở các phần sau chỉ có tác dụng khi người dùng nó hiểu việc đang được kiểm. Thang Bloom bản sửa năm 2001 giúp nói rõ phải hiểu tới mức nào thì mới đủ.
Tạo ra cách làm mới. Thiết kế lại quy trình Q&A với khách.
Nói được một kết quả đúng hay sai, và chỉ ra căn cứ. Biết estimate 20 man-day cho một API là hợp lý hay không; biết bản dịch có làm đổi requirement không.
Tách một việc thành các phần để thấy phần nào gây ra vấn đề. Tách change request thành các màn hình, API, test case bị ảnh hưởng.
Làm theo quy tắc có sẵn. Viết test case theo template dự án; dịch theo bảng thuật ngữ.
Giải thích lại bằng lời của mình. Kể lại cho team vì sao khách muốn đổi luồng đăng ký.
Nhắc lại một thông tin. Nhớ ngày release, tên các màn hình trong spec.
Trước khi giao một việc cho AI, tự hỏi: nếu kết quả sai, mình có chỉ ra được sai ở đâu và vì sao không? Trả lời được thì bạn đang đứng ở bậc Đánh giá. Chưa trả lời được thì chưa nên là người đóng dấu 確認.
Dịch spec là việc AI làm khá tốt. Câu cần hỏi không phải AI dịch giỏi tới đâu, mà là bạn có nhận ra khi một điều kiện nghiệp vụ bị dịch lệch hay không. Khả năng đó đến từ hiểu nghiệp vụ, không đến từ vốn tiếng Nhật.Kể lại được chưa có nghĩa là đã kiểm. Bạn có thể tóm tắt lại email của khách cho team rất mạch lạc mà vẫn không biết bản tóm tắt đã đánh rơi chữ 保留. Bậc Hiểu giúp bạn nói lại; chỉ bậc Đánh giá mới cho bạn quyền nói "đúng rồi".
Thang này đo người ký, không đo AI. AI có thể sai ở việc đơn giản nhất, như bịa ra một tên màn hình không có trong spec. Ngược lại, khi có đủ dữ liệu và tiêu chí, nó có thể góp ý estimate khá sắc. Vì vậy đừng dùng thang để hỏi "việc này AI làm được không", mà để hỏi "ai trong team đủ sức ký việc này".
"Có khớp với nguồn không?"
"Có đúng với cách việc này thật sự vận hành không?"
Nhiều output thật có cả hai phần. Biên bản họp là output bám nguồn, nhưng dòng "rủi ro: thấp" AI tự thêm vào cuối biên bản là output phán đoán.
Đọc lại spec, hỏi dev đang làm phần đó, mở môi trường test xem tận mắt. Ghi điều vừa học vào ghi chú dự án để lần sau không phải hỏi lại.
"Phần effort tích hợp với hệ thống cũ tôi chưa kiểm được. Đã gửi anh Nam xem, hẹn trả lời thứ Năm."
Không làm: hỏi lại chính AI xem nó đúng chưa, rồi coi câu trả lời ấy là đã có người kiểm.
Thang Bloom ở đây là bản sửa của Anderson & Krathwohl (2001), A Taxonomy for Learning, Teaching, and Assessing. Muốn đi sâu hơn chuyện chia việc giữa người và AI, có thể xem khóa Làm chủ tư duy AI trên 200Lab.
Biết tên lỗi thì dễ thấy lỗi hơn. Mỗi tình huống ở phần 07 đều gắn với một hoặc hai kiểu dưới đây.
Thông tin cụ thể, nghe hợp lý, nhưng không có thật.
Tên menu, endpoint API, số điều khoản, link tài liệu không tồn tại.
Ý chính còn, nhưng điều kiện, ngoại lệ hay việc đang chờ thì mất.
Email nói "đồng ý, ngoại trừ màn hình tìm kiếm"; bản tóm tắt chỉ còn "đồng ý".
"Có thể" thành "sẽ", "đang cân nhắc" thành "đã quyết", "đề xuất" thành "đồng ý".
Khách nói cần hỏi sếp; biên bản ghi "khách đồng ý lùi deadline".
Đầu vào mơ hồ thì AI chọn giúp bạn một cách hiểu, và không báo là nó đã chọn.
Câu tiếng Nhật lược chủ ngữ; AI đoán ai là người làm và đoán ngược.
Cộng sai, chia sai, đếm sai ngày làm việc, đổi đơn vị nhầm.
Bảng effort có tổng 70 man-day trong khi các dòng cộng lại là 78.
Câu hỏi dẫn dắt thì nhận câu trả lời đồng tình. Bạn phản bác thì AI dễ đổi ý dù nó đúng.
"Kế hoạch này ổn đúng không?" và AI khen một kế hoạch thiếu rollback.
Agent báo "đã xong", "đã nhất quán", trong khi bỏ bước, làm khác yêu cầu, hoặc làm thừa.
"Đã cập nhật 5 file", nhưng một file chỉ đổi ngày ở trang bìa.
AI dựa vào spec bản cũ dán từ đầu cuộc chat, hoặc kiến thức đã lỗi thời so với thời điểm hiện tại.
Trả lời theo spec v2.0 trong khi khách đã gửi v2.1 hôm qua.
Độ khó phát hiện là đánh giá của sổ tay này, dựa trên một câu hỏi: lỗi có để lại dấu vết trên output không. Bỏ sót và tự điền gần như không để lại dấu vết nào, nên phải đọc từ nguồn gốc mới thấy.
Kiểm mọi thứ ở mức cao nhất thì sẽ mệt rồi bỏ kiểm luôn. Hãy đặt mức kiểm theo hai câu hỏi: AI có dễ sai ở loại việc này không, và nếu sai thì hậu quả lớn cỡ nào.
Đọc hết một lượt bằng con mắt của người nhận. Có chỗ nào lạ, sai giọng, sai tên không.
Mọi claim quan trọng đều tìm được chỗ đứng trong nguồn gốc. Đọc ngược nguồn gốc để tìm phần bị bỏ sót.
Đối chiếu, cộng thêm một cách kiểm khác: tính lại bằng Excel, chạy thử, nhờ người thứ hai, hoặc người có thẩm quyền xác nhận.
Dùng cho mọi output ở mức 2 và 3. Ví dụ đi kèm là một biên bản họp do AI viết từ bản ghi âm.
"Nếu chỗ này sai, ai bị ảnh hưởng? Sửa lại có dễ không?"
Chọn mức 1, 2 hoặc 3 theo bảng ở phần trên. Bước này quyết định bạn bỏ bao nhiêu công sức cho các bước sau.
"Câu nào trong đây có thể đúng hoặc sai?"
Gạch chân những gì kiểm được: con số, ngày, tên riêng, ai làm gì, cam kết, điều kiện. Câu chung chung như "hai bên trao đổi tích cực" không cần kiểm. Claim mới là chỗ cần kiểm.
"Claim này nằm ở đâu trong bản gốc?"
Mỗi claim phải tìm được chỗ đứng trong một nguồn nằm ngoài AI: email gốc, bản ghi âm, spec bản mới nhất, file Excel, docs chính thức, người có thẩm quyền. Không tìm được nguồn thì claim đó chưa được kiểm, dù nghe hợp lý đến đâu.
"Bản gốc có gì mà output không nhắc tới?"
Lần này đi từ nguồn gốc sang output. Soi kỹ điều kiện, ngoại lệ, việc đang chờ, rủi ro được nêu ra. Bước 3 bắt được cái sai; lỗi bỏ sót chỉ lộ ra ở bước này.
"Người nhận nên tin output này đến mức nào?"
Thêm một dòng ngắn: đã đối chiếu gì với đâu, chưa kiểm gì, ai cần xác nhận. Người nhận biết chỗ nào chắc chắn, chỗ nào còn treo, và bạn có bằng chứng mình đã làm bước kiểm.
Tám kỹ thuật, kèm prompt mẫu copy được. Prompt giúp AI để lộ chỗ yếu, nhưng không cho bạn năng lực Đánh giá. Chúng chỉ ra chỗ đáng nghi; người hiểu việc mới kết luận được.
Dùng khi: tóm tắt, biên bản, trả lời dựa trên tài liệu.
Với mỗi ý trong câu trả lời, trích nguyên văn câu trong tài liệu gốc làm căn cứ. Ý nào không có câu gốc, ghi rõ: KHÔNG CÓ CĂN CỨ.
AI có thể trích sai. Dùng Ctrl+F tìm câu trích trong bản gốc; không tìm thấy thì coi như không có căn cứ.
Dùng khi: estimate, kế hoạch, phân tích, đề xuất.
Liệt kê các giả định bạn đã dùng để ra kết quả này và những thông tin bạn còn thiếu. Đánh dấu giả định nào gây ảnh hưởng lớn nhất nếu sai.
Giả định sai thường nằm ở thứ AI không biết về dự án: quy mô team, ngày lễ, phụ thuộc giữa các việc.
Dùng khi: tài liệu quan trọng mà bạn đã đọc nhiều lần đến mức quen mắt.
Bạn là reviewer. Dưới đây là TÀI LIỆU GỐC và BẢN TÓM TẮT. Chỉ dựa vào tài liệu gốc, liệt kê: 1. Chỗ bản tóm tắt nói khác tài liệu gốc. 2. Chỗ bản tóm tắt nói thêm điều tài liệu gốc không có. 3. Điều quan trọng trong tài liệu gốc bị bỏ sót. Mỗi mục kèm câu gốc làm căn cứ.
Mở chat mới để reviewer không bị cuộc trò chuyện cũ dẫn dắt. Reviewer AI giúp khoanh vùng chỗ nghi ngờ; kết luận vẫn phải qua đối chiếu của bạn.
Dùng khi: dịch spec, email có điều kiện, tài liệu hợp đồng.
Dịch đoạn tiếng Nhật sau sang tiếng Việt, sát nghĩa từng câu, không diễn ý. Đánh dấu những câu lược chủ ngữ mà bạn phải đoán ai là người thực hiện.
Làm ở phiên mới, không đưa câu gốc tiếng Việt. Dịch ngược bắt được nghĩa bị đổi, không bắt được sắc thái lịch sự; sắc thái cần BrSE đọc.
Dùng khi: tổng, phần trăm, số ngày làm việc, đổi đơn vị, quy đổi tiền.
Dán bảng vào Excel hoặc Google Sheets, dùng SUM, NETWORKDAYS. Không nhờ AI kiểm lại phép tính của chính nó.
Nhanh nhất trong tám kỹ thuật và bắt được loại lỗi dễ làm mất uy tín nhất trước khách.
Dùng khi: danh sách dài: 50 test case, 200 dòng dịch, 40 ticket.
Chọn ngẫu nhiên 5 mục rải đều từ đầu đến cuối, kiểm từng mục ở mức 3. Gặp 1 lỗi thì kiểm toàn bộ danh sách.
Đừng chỉ kiểm vài mục đầu. Với tài liệu dài, AI hay xử lý kém phần giữa và phần cuối.
Dùng khi: xin feedback cho kế hoạch, thiết kế, tài liệu đề xuất.
Đóng vai [khách hàng khó tính / QA lead / người vận hành hệ thống]. Tìm 5 vấn đề lớn nhất của tài liệu dưới đây, xếp theo mức nghiêm trọng, mỗi vấn đề kèm lý do và căn cứ trong tài liệu. Không khen.
AI phản biện cũng có thể nêu vấn đề không có thật, và chỉ người hiểu việc mới phân biệt được. Không đủ hiểu thì đưa danh sách đó cho người đủ hiểu xét.
Dùng khi: ngay từ đầu, để phòng lỗi bịa.
Chỉ trả lời dựa trên tài liệu tôi đưa. Nếu tài liệu không có thông tin, trả lời "Tài liệu không đề cập" thay vì suy đoán. Nếu phải suy luận, ghi rõ "Suy luận:" ở đầu câu.
Cách này làm giảm lỗi bịa, không loại bỏ được nó. Vẫn cần kiểm.
Mỗi tình huống gồm output của AI, lỗi nằm ở đâu, cách bắt lỗi và bài học. Khi luyện, hãy che cột bên phải và tự tìm lỗi trước.
Chị Lan nhờ AI lập bảng effort cho tính năng đặt lịch hẹn và ước thời gian hoàn thành, để gửi khách trong chiều nay.
| Hạng mục | Man-day |
|---|---|
| Thiết kế màn hình | 12 |
| API đặt lịch | 20 |
| Tích hợp thanh toán | 18 |
| Test | 16 |
| Hỗ trợ UAT | 8 |
| Deploy | 4 |
| Tổng | 70 |
"Với team 4 người, dự kiến hoàn thành trong 3 tuần."
Các dòng cộng lại là 78 man-day, không phải 70. 78 chia cho 4 người là 19,5 ngày làm việc, tức gần 4 tuần chứ không phải 3. Phép chia đó còn ngầm cho rằng 4 người làm song song từ ngày đầu, trong khi test chỉ bắt đầu được khi đã có code.
Bài họcKhông nhờ AI tính lại phép tính của chính nó. Số liệu gửi khách phải đi qua một công cụ khác.
Tech lead gửi estimate, trong đó API đặt lịch là 20 man-day. Khách muốn giảm chi phí, nên PM dán estimate vào và hỏi AI: "Estimate này có chỗ nào cắt được không?"
"Hạng mục API đặt lịch 20 man-day là cao so với một API CRUD thông thường. Có thể giảm còn khoảng 10–12 man-day nếu dùng thư viện có sẵn."
AI so với "một API CRUD thông thường" vì trong prompt chỉ có tên hạng mục và con số 20 man-day. Thực tế API phải đồng bộ lịch hai chiều với hệ thống đặt chỗ cũ của khách, vốn chỉ nhận file CSV theo lô mỗi 15 phút. Phần lớn 20 man-day nằm ở đó. Không có tài liệu nào để đối chiếu câu "cao so với thông thường". Chỉ người hiểu hệ thống mới biết nó sai.
Bài họcOutput phán đoán được kiểm bằng hiểu biết về cơ chế. Mình không đủ hiểu thì chuyển cho người đủ hiểu.
Khách hỏi hệ thống quản lý nội bộ của họ (gọi là Tool X) có xuất báo cáo tự động mỗi tuần được không. PM hỏi AI để trả lời cho nhanh.
"Có. Vào Settings → Automation → Scheduled Export, chọn tần suất Weekly. Nếu cần tích hợp với hệ thống khác, dùng endpoint /api/v2/reports/schedule."
Câu trả lời cụ thể đến tên menu và endpoint, nghe như của người đã từng dùng. Mở docs chính thức thì không có menu Scheduled Export, và API v2 không có endpoint đó. AI đã ghép từ những tool tương tự.
Bài họcCâu trả lời càng cụ thể càng phải kiểm. Mức chi tiết không chứng minh được độ chính xác.
Trước buổi họp release, PM dán kế hoạch vào và hỏi: "Kế hoạch release dưới đây ổn rồi đúng không?"
"Kế hoạch rất hợp lý và chi tiết. Các mốc thời gian rõ ràng, phân công cụ thể. Bạn có thể tự tin trình bày."
Câu hỏi đã gợi sẵn câu trả lời. AI có xu hướng đồng tình với người hỏi, nên lời khen này gần như không mang thông tin. Kế hoạch thực ra không có bước rollback và đặt giờ deploy vào chiều thứ Sáu.
Bài họcCách hỏi quyết định câu trả lời. Muốn tìm lỗi thì phải hỏi để tìm lỗi.
先日ご相談した画面レイアウトの変更について、社内で確認いたしました。基本的には御社の案で進めていただいて問題ございません。ただし、検索画面については既存ユーザーへの影響を確認したいため、一旦保留とさせてください。来週水曜日までにご回答いたします。
"Khách đồng ý toàn bộ phương án layout mới. Team có thể bắt đầu làm ngay."
Câu bắt đầu bằng ただし bị bỏ. Màn hình tìm kiếm đang 保留 vì khách muốn xem ảnh hưởng tới người dùng hiện tại, và khách hẹn trả lời trước thứ Tư tuần sau. Nếu team làm luôn màn hình này, có thể phải làm lại.
Bài họcBản tóm tắt hay giữ ý chính và đánh rơi ngoại lệ, mà ngoại lệ thường là thứ đắt nhất.
"Hệ thống chỉ gửi email thông báo khi đơn hàng bị hủy."
注文がキャンセルされた場合、システムは通知メールを送信します。
Mất chữ "chỉ". Bản dịch đúng ngữ pháp nhưng không loại trừ các trường hợp khác, nên dev phía Nhật có thể giữ nguyên email cho các trạng thái khác. Bản đúng: 通知メールを送信するのは、注文がキャンセルされた場合のみです。
Bài họcTrong spec, mất một từ giới hạn là đổi một requirement.
テスト環境の準備ができ次第、ご連絡いただけますと幸いです。
"Chúng tôi sẽ liên lạc khi môi trường test sẵn sàng."
いただけます cho biết người nhận tin nhắn, tức team mình, là người làm việc đó. Nghĩa đúng: "Khi bên anh chuẩn bị xong môi trường test, nhờ anh báo cho chúng tôi." AI đảo chiều hành động, và kết quả là team ngồi chờ khách trong khi khách ngồi chờ team.
Bài họcKhi câu gốc lược chủ ngữ, AI sẽ tự điền. Chỗ AI tự điền là chỗ phải kiểm.
Giao cho agent: "Cập nhật bộ tài liệu spec theo CR-12 (thêm trường Mã giới thiệu vào màn hình đăng ký) và đồng bộ bảng test case."
"Đã cập nhật 5 file theo CR-12. Các tài liệu đã nhất quán."
| File | Thay đổi | |
|---|---|---|
| 01_画面設計.xlsx | Thêm trường đúng vị trí | Đúng |
| 02_項目定義.xlsx | Thêm trường, đúng độ dài | Đúng |
| 03_API仕様.md | Thêm tham số request | Đúng |
| 04_テストケース.xlsx | Chỉ đổi ngày ở trang bìa, không có test case mới | Chưa làm |
| 05_用語集.md | Đổi toàn bộ 会員 thành ユーザー | Ngoài phạm vi |
Bài họcBáo cáo của agent cũng là output của AI. Hãy kiểm kết quả, đừng kiểm lời kể.
Đưa agent file Excel bug list gồm hai sheet, tháng 9 và tháng 10, khoảng 1.200 dòng, và nhờ tổng hợp tình hình chất lượng để báo cáo khách.
"Có 37 bug Critical, 62% nằm ở module Payment. Đề xuất ưu tiên Payment trong sprint tới."
Agent chỉ đọc sheet đầu tiên, tức tháng 9. Agent còn đếm "Critical" theo cột Priority, trong khi team đánh giá mức nghiêm trọng bằng cột Severity. Con số nghe rất chính xác nhưng trả lời một câu hỏi khác.
Bài họcMột con số do agent đưa ra cần đi kèm cách nó được đếm.
AI Chat đưa bạn một đoạn văn để đọc. AI Agent tự làm nhiều bước và thay đổi file, dữ liệu, ticket thật. Vì vậy việc kiểm bắt đầu từ trước khi giao việc, chứ không đợi tới lúc agent báo xong.
"Đã xong. Mọi thứ đã nhất quán."
Bảng từng việc, có vị trí và đoạn trước/sau
Phạm vi: chỉ sửa [danh sách file/thư mục]. Không sửa file khác. Không xóa, không gửi gì ra ngoài. Xong khi: [tiêu chí kiểm được]. Làm thử 1 mục trước và dừng lại để tôi kiểm. Khi xong, báo cáo bằng bảng gồm các cột: Việc được giao | Đã làm gì | File và vị trí | Bằng chứng (đoạn trước/sau hoặc kết quả chạy) Thêm hai mục riêng: - Việc chưa làm được và lý do - Thay đổi ngoài phạm vi (nếu có)
Những cách "kiểm" cho cảm giác đã kiểm nhưng không bắt được lỗi.
AI có thể khẳng định lại, hoặc đổi ý cho vừa lòng bạn. Cả hai đều không phải bằng chứng. Bằng chứng nằm ở nguồn gốc.
Link có thể không tồn tại, hoặc tồn tại nhưng không nói điều AI viết. Mở link và tìm đúng đoạn.
Phần bạn không đủ hiểu để biết sai mới là phần dễ lọt lỗi nhất. Tách riêng phần đó và chuyển cho người đứng được ở bậc Đánh giá.
Với agent, mở file, diff, dữ liệu thật. Bản tóm tắt do agent tự viết về chính việc nó làm cũng cần kiểm.
Bản sửa có thể tạo lỗi mới ở chỗ trước đó đã đúng. Sau mỗi lần sửa, kiểm lại các claim quan trọng.
Người nhận sẽ tưởng mọi thứ đã được kiểm. Thêm dòng verify để họ biết chỗ nào còn treo.
Bên trái là ghi chép lời thoại. Bên phải là biên bản AI viết từ ghi chép đó. Với mỗi dòng biên bản, chọn "Khớp" hoặc "Sai lệch" rồi xem giải thích.
Chạy qua danh sách này trước khi gửi bất kỳ output nào của AI ra khỏi tay mình. Trang tự nhớ các ô bạn đã đánh dấu trên trình duyệt này.
Trôi chảy không phải là bằng chứng.Câu sai và câu đúng được viết bằng cùng một giọng tự tin.
Nguồn sự thật nằm ngoài AI.Email gốc, bản ghi, spec mới nhất, Excel, docs chính thức, và người hiểu cơ chế thật của việc đó.
Kiểm theo rủi ro, ghi lại đã kiểm gì.Kiểm vừa đủ thì mới duy trì được, và người nhận biết nên tin tới đâu.