โทเค็นอื่น ๆ ใน GPT2 คืออะไร?
ฉันสนใจที่จะรู้เพิ่มเติมเกี่ยวกับ GPT2 โดยเฉพาะฉันต้องการที่จะเข้าใจว่าโทเค็นประเภทอื่นที่ใช้ใน GPT2 นอกเหนือจากคำและวลีปกติ
ข้อความ GPT2 tokenize อย่างไร?
ฉันสนใจที่จะทำความเข้าใจว่า GPT2 โมเดลภาษายอดนิยมเป็นอย่างไร ฉันต้องการทราบกระบวนการเฉพาะที่ตามมาเพื่อแยกข้อความลงในโทเค็นเพื่อการประมวลผลเพิ่มเติม