ตัวสร้างวิดีโอจากภาพด้วย AI ส่วนใหญ่จะบิดเบือนสัดส่วนใบหน้าหรือเปลี่ยนแสงพื้นหลังภายในวินาทีที่ 3 ของแอนิเมชัน Gemini Omni Flash 1.1 แก้ปัญหาการเคลื่อนคลาดของฉากนี้ด้วยการประมวลผลโทเค็นภาพ ข้อความ และเสียงเชิงพื้นที่พร้อมกันในทรานส์ฟอร์มเมอร์พาสเดียว แทนที่จะซ้อนโมเดลดิฟฟิวชันและโมเดลเสียงแยกจากกัน
การรักษารูปทรงตัวละครให้คงที่ต้องเปลี่ยนจากคำอธิบายแบบหลวมๆ ไปสู่การตั้งเงื่อนไขแบบมัลติโมดัลที่เข้มงวด
ข้อมูลอ้างอิงด่วน: ความสามารถและสเปกของ Gemini Omni Flash 1.1 สำหรับแปลงภาพเป็นวิดีโอ
ไพพ์ไลน์แปลงภาพเป็นวิดีโอแบบดั้งเดิมมักสิ้นเปลืองการประมวลผล GPU ไปกับการเคลื่อนคลาดของตัวละครและเสียงที่ไม่ตรงกัน Gemini Omni Flash 1.1 แก้ปัญหาคอขวดเหล่านี้ด้วยสถาปัตยกรรมมัลติโมดัลแบบรวม ศักยภาพในการคงรูปทรงเรขาคณิตและเสียงเชิงพื้นที่ในตัวในพาสเดียว ด้านล่างคือสรุปพารามิเตอร์หลักและขีดจำกัดของ API อย่างย่อ:
พารามิเตอร์ทางเทคนิคหลัก
| รายการ | ฟีเจอร์/ค่าที่รองรับผ่าน API |
| ความละเอียดเอาต์พุต | มาตรฐาน 720p (แบบร่าง 360p ได้; อัปสเกล 1080p/4K ได้) |
| อัตราเฟรม | เอาต์พุต 24 fps คงที่ |
| ระยะเวลาคลิป | คลิปพื้นฐาน 3 ถึง 10 วินาที (ขยายได้สูงสุด 40 วินาที) |
| อัตราส่วนภาพ | 16:9, 9:16 |
| ประเภทไฟล์อินพุต | JPG, PNG, WEBP, GIF, AVIF, MP4 |
| เอาต์พุตเสียง | เสียงเชิงพื้นที่ที่ซิงก์ในตัว (เสียงรอบข้าง คำพูด เอฟเฟกต์เสียง) |
ข้อจำกัดและเงื่อนไขทางเทคนิคที่สำคัญ
- การควบคุมพรอมต์และพารามิเตอร์: ไม่รองรับ system instructions, temperature, top_p, stop sequences และฟิลด์ negative prompt เฉพาะ ต้องผสานข้อจำกัดเชิงลบลงในข้อความพรอมต์หลักโดยตรง เช่น "do not execute X"
- กลไกการขยายและการต่อวิดีโอ: การขยายวิดีโอเป็นแบบต่อท้ายเท่านั้น (ส่วนท้าย) ไม่รองรับการเพิ่มเนื้อหาที่จุดเริ่มต้นหรือขยายกลางคลิป วิดีโออินพุตที่อัปโหลดเพื่อขยายหรือแก้ไขต้องไม่เกิน 10 วินาที
- ไพพ์ไลน์บทสนทนาและเสียง: ไม่รองรับการอัปโหลดไฟล์เสียงอ้างอิงเดี่ยวๆ และ URL ของ YouTube การเพิ่มบทสนทนาพูดใหม่รองรับเฉพาะเมื่อขยายวิดีโอที่โมเดลสร้างขึ้นในเซสชันหลายเทิร์น (previous_interaction_id) ไม่ใช่กับวิดีโอภายนอกที่อัปโหลดใหม่ และไม่รองรับการแก้ไขเสียง
- การอ้างอิงวิดีโอและการประมวลผลข้ามวิดีโอ: การอ้างอิงวิดีโอจำกัดที่ 3 คลิป (สูงสุด 3 วินาทีต่อคลิป) และเสียงใดๆ ที่ฝังในวิดีโออ้างอิงจะถูกละเว้นโดยอัตโนมัติ ไม่รองรับการอ้างอิงข้ามวิดีโอหรือการประมวลผลหลายวิดีโอ เพราะจะทำให้ประสิทธิภาพของโมเดลลดลง
สูตรพรอมต์ 5 ส่วนสำหรับ Gemini Omni Flash 1.1 แปลงภาพเป็นวิดีโอ
กว่า 70% ของความล้มเหลวในการสร้างในเวิร์กโฟลว์วิดีโอเชิงสร้างเกิดจากไวยากรณ์พรอมต์ที่คลุมเครือ ทำให้ผู้พัฒนาต้องเสียโทเค็น API ไปกับเอาต์พุตที่คาดเดาไม่ได้ การเขียนคำสั่งแบบไม่มีโครงสร้างเช่น "make the person move and look around" ก่อให้เกิดการขยับกล้องที่วุ่นวาย ร่างกายบิดเบี้ยว และคลิปที่ไม่มีเสียง การใช้สูตรพรอมต์ Gemini Omni Flash แบบมีโครงสร้างช่วยขจัดการเดาสุ่มด้วยการวางกรอบการสร้างวิดีโอเป็นบรีฟช็อตที่พร้อมใช้จริง
การแยกย่อยโครงสร้างโมดูลาร์ 5 ส่วน
เพื่อให้คุณภาพเอาต์พุตสูงสุด ให้สร้างพรอมต์ทุกครั้งโดยใช้เลเยอร์โครงสร้างที่ชัดเจน 5 ชั้น:
- ตัวยึดหัวเรื่องและบทบาทอ้างอิง: ระบุหัวเรื่องหลักในภาพต้นฉบับและกำหนดบทบาทอ้างอิงของหัวเรื่องนั้นเพื่อรักษาเอกลักษณ์ของตัวละครหรือผลิตภัณฑ์
- จังหวะการเคลื่อนไหวในเฟรม: กำหนดการเคลื่อนไหวของตัวละครหรือวัตถุเป็นลำดับ โดยแบ่งการกระทำทางกายภาพออกเป็นจังหวะเรื่องราวที่ชัดเจนตลอดช่วงการสร้าง
- ทิศทางกล้องและภาษาเลนส์: กำหนดมุมกล้อง ความยาวโฟกัส และเส้นทางการเคลื่อนกล้องที่แม่นยำ เช่น การแพน การเอียง หรือการติดตามภาพ
- แสงและสไตล์บรรยากาศ: ระบุรายละเอียดแสงในสภาพแวดล้อม พฤติกรรมเงา และความเข้มการเคลื่อนไหวโดยรวมเพื่อป้องกันภาพฉีกขาด
- การซิงก์เสียงในตัว: ระบุชื่อเอฟเฟกต์เสียงรอบข้าง บทสนทนาของตัวละคร หรือคิวเพลงอย่างชัดเจนเพื่อเรียกใช้การเรนเดอร์เสียงแบบบูรณาการ
การเปรียบเทียบพรอมต์แบบเคียงข้างกัน
กรณีด้านล่างนี้แสดงวิธีเปลี่ยนอินพุตที่คลุมเครือจากผู้ใช้ให้เป็นพรอมต์ 5 ส่วนที่มีโครงสร้างสำหรับงานสร้างวิดีโอทั่วไป:
กรณีที่ 1: การนำเสนอผลิตภัณฑ์
❌ พรอมต์ที่คลุมเครือไม่มีโครงสร้าง
"Make the luxury watch glisten and move around on the display table."
✅ สูตรพรอมต์ 5 ส่วนของ Gemini Omni Flash 1.1
plaintext1[Subject]: Black chronograph watch in source image. 2[Motion]: Second hand sweeps smoothly while light glints off the bezel. 3[Camera]: 50mm lens, 15 degree orbital camera trajectory left to right. 4[Style]: Hard studio key light with low motion intensity. 5[Audio]: Crisp mechanical ticking and silent studio ambience.

กรณีที่ 2: แอนิเมชันตัวละคร
❌ พรอมต์ที่คลุมเครือไม่มีโครงสร้าง
"The hero turns around slowly and looks sad while heavy rain falls."
✅ สูตรพรอมต์ 5 ส่วนของ Gemini Omni Flash 1.1
plaintext1[Subject]: Detective wearing a brown trench coat. 2[Motion]: Character turns 90 degrees toward the lens across three story beats. 3[Camera]: Medium close-up with a slow dolly push-in. 4[Style]: High-contrast neon teal streetlights, rain droplets sliding down skin. 5[Audio]: Heavy downpour, distant thunder, and a soft sigh.

กฎการเขียนพรอมต์เชิงลบสำหรับ Gemini Omni
ต่างจากเครื่องมือดิฟฟิวชันมาตรฐาน Gemini Omni Flash 1.1 ไม่รองรับ negative_prompt พารามิเตอร์ API เฉพาะ. แม้เอกสารทางการจะอนุญาตให้ฝังวลีเชิงปฏิเสธลงในพรอมต์หลักโดยตรง เช่น "do not perform X" แต่โมเดลวิดีโอเชิงสร้างก็ยังอาจตีความการปฏิเสธผิดเป็นคิวการสร้างภาพได้
เพื่อให้การสร้างเชื่อถือได้ ให้ใช้กรอบขอบเขตเชิงบอกเล่าแทนการปฏิเสธแบบหลวมๆ:
- แปลงการปฏิเสธเป็นข้อจำกัด: แทนที่ "no camera shaking" ด้วย "smooth, locked tripod shot."
- ล็อกองค์ประกอบพื้นหลัง: แทนที่ "don't move the background" ด้วย "maintain static background geometry throughout the shot."
- ล็อกรายละเอียดพื้นผิว: แทนที่ "no facial warping" ด้วย "preserve exact facial structure and skin texture."
เวิร์กโฟลว์หลัก: ขั้นตอนการแปลงภาพเป็นวิดีโอแบบทีละขั้น
การทำให้ภาพนิ่งภาพเดียวเคลื่อนไหวด้วยตัวสร้างวิดีโอแบบดั้งเดิมมักให้โลโก้บิดเบี้ยว มือผิดรูป หรือรูปทรงผลิตภัณฑ์ที่กลายร่างหลังจากสองวินาที Gemini Omni Flash 1.1 แก้ปัญหาความไม่เสถียรของพิกเซลนี้ด้วยการผูกแอสเซทอินพุตเข้ากับโทเค็นเฟรมเชิงพื้นที่โดยตรง ทำให้ควบคุมกายภาพได้แม่นยำทั้งการสร้างแบบเฟรมเดียวและสองเฟรม
เวิร์กโฟลว์ 1: แอนิเมชันเฟรมแรกเดียว (การเผยการกระทำและการเคลื่อนไหว)
เวิร์กโฟลว์การแปลงภาพเดี่ยวเป็นวิดีโอที่สำเร็จต้องแยกองค์ประกอบคงที่ออกจากองค์ประกอบเคลื่อนไหวในพรอมต์ข้อความอย่างชัดเจน เมื่อใช้งานแอนิเมชันเฟรมแรก ให้แท็กแอสเซทที่อัปโหลดเป็น <FIRST_FRAME> หรือส่งผ่านพารามิเตอร์ API image_url
หากต้องการให้การเผยการเคลื่อนไหวออกมาสะอาด ให้ทำตามสามขั้นตอนหลักนี้:
- ล็อคจุดยึดภาพ: ระบุบริเวณที่ต้องคงนิ่ง เช่น ตัวอักษรแบรนด์ รูปทรงขวด หรือลักษณะใบหน้า
- กำหนดเวกเตอร์การเคลื่อนไหว: ระบุชื่อองค์ประกอบที่เคลื่อนที่ ทิศทาง และวิถีทางกายภาพตามไทม์โค้ดที่เฉพาะเจาะจง
- ตั้งค่าตัวกระตุ้นเสียง: จับคู่การกระทำทางกายภาพกับองค์ประกอบเสียงในตัวที่ตรงกันโดยตรง
ด้านล่างเป็นเทมเพลตพรอมต์แบบคัดลอกวางที่ปรับแต่งเพื่อเวิร์กโฟลว์การผลิต:
แอนิเมชันช็อตฮีโร่ผลิตภัณฑ์:
[Subject]: Luxury glass perfume bottle with crisp label typography in the source image.
[Motion]: Condensation droplets slide down the right side of the glass.
[Camera]: Continuous 8-second orbital camera rotation around the bottle.
[Style]: Hard studio key light glinting off the nozzle, preserving exact glass geometry and label details.
[Audio]: Subtle glass clink and soft ambient room tone.
โฆษณาโซเชียลมีเดียและบีโรล:
[Subject]: Athletic running shoes in source photo.
[Motion]: Camera tilts up from a macro shot of the shoes to a runner tying their laces. Fog passes over dark pavement.
[Style]: Early morning natural light.
[Audio]: Gravel crunching under foot, faint morning bird calls.
เวิร์กโฟลว์ 2: การควบคุมคีย์เฟรมคู่ (วิถีเฟรมแรกและเฟรมสุดท้าย)
การเชื่อมต่อสถานะภาพสองสถานะโดยไม่ให้มีคัทแบบกระโดดที่ไม่ต้องการต้องใช้การควบคุมเฟรมแรกและเฟรมสุดท้าย ด้วยการระบุภาพเริ่มต้น (<FIRST_FRAME>) และภาพสิ้นสุด (<LAST_FRAME>) Flash 1.1 จะทำงานคีย์เฟรมคู่อย่างแม่นยำผ่านการแทรกภาพเชิงลึก
| การตั้งค่าการทำงาน | การกำหนดค่าพารามิเตอร์ | จุดประสงค์ในการผลิต |
| แท็กเฟรมเริ่มต้น | <FIRST_FRAME> หรือ image_url | กำหนดองค์ประกอบเริ่มต้น ท่าทางของตัวเรื่อง และแสงรอบข้าง |
| แท็กเฟรมสิ้นสุด | <LAST_FRAME> หรือ end_image_url | กำหนดจุดหมายปลายทาง สถานะสุดท้ายของตัวเรื่อง และจุดโฟกัสกล้อง |
| สไตล์การเปลี่ยนภาพ | camera push transition / Whip-pan | กำหนดวิธีที่โมเดลคำนวณว่าเลนส์เคลื่อนที่ระหว่างจุดปลายอย่างไร |
| โหมดลูป | ภาพเริ่มต้นและภาพสิ้นสุดเหมือนกัน | สร้างแอนิเมชันลูปไร้รอยต่อสำหรับส่วนหัวเว็บและฟีดโฆษณา |
หากต้องการให้การเปลี่ยนภาพแบบดันกล้องราบรื่น ให้ระบุภาพทั้งสองและอธิบายวิถี:
<FIRST_FRAME><LAST_FRAME>Smooth 5-second dolly push-in from the wide landscape shot into the subject close-up. Keep lighting and character outfit consistent between frames. Audio transitions smoothly from background wind to spoken dialogue. Audio: subtle wind noise fading into clear dialogue.
การส่งแอสเซทที่เหมือนกันเข้าไปในฮุคเริ่มต้นและสิ้นสุดจะสร้างแอนิเมชันลูปไร้รอยต่อที่สมบูรณ์แบบ อัปโหลดรูปภาพเดียวกันไปยังแท็ก <FIRST_FRAME> และ <LAST_FRAME> แล้วโมเดลจะเคลื่อนไหวพื้นหลังรอบข้างก่อนกลับสู่องค์ประกอบเฟรมดั้งเดิมอย่างราบรื่น
เวิร์กโฟลว์ 3: การขยายฉากหลายเทิร์นและการต่อเนื่อง (สูงสุด 40 วินาที)
การสร้างคลิปยาวด้วยโมเดลวิดีโอรุ่นเก่ามักทำให้ความต่อเนื่องขาดสะบั้น เช่น เสื้อผ้าตัวละครเปลี่ยน แสงกระตุก หรือเสียงรอบข้างหายไปทันทีหลังเฟรมที่แปด Gemini Omni Flash 1.1 ขจัดรอยต่อแข็งเหล่านี้ด้วยการต่อเนื่องการขยายฉากขั้นสูง แทนที่จะแยกเฉพาะเฟรมท้ายของเอาต์พุตก่อนหน้า โมเดลจะประเมินบริบทภาพและเสียงเต็มรูปแบบสูงสุด 10 วินาทีในการขยายวิดีโอแต่ละเทิร์น
Flash 1.1 รักษาสถานะฉากเทียบกับการปรับสภาพด้วยเฟรมท้ายอย่างไร
โมเดลขยายวิดีโอแบบเดิมอาศัยเฟรมสุดท้ายเพียงเฟรมเดียวของวิดีโอ ทำให้เกิดการเปลี่ยนแสงกระทันหัน การรีเซ็ตโมเมนตัม และเสียงขาดหาย Gemini Omni Flash 1.1 รักษาความต่อเนื่องทั้งเชิงเวลาและเชิงพื้นที่ตลอดการขยายด้วยกลไกสำคัญสามประการ:
- หน้าต่างบริบท 10 วินาที: ประเมินวิดีโอก่อนหน้าและประวัติเสียงเต็มรูปแบบสูงสุด 10 วินาที ขจัดปัญหาสมดุลสีขาวและแสงกระตุก
- การติดตามโมเมนตัม: ความเร็วและวิถีของตัวเรื่องถูกส่งต่ออย่างเป็นธรรมชาติ ป้องกันการกระตุกระหว่างคลิปที่ขยาย
- เสียงต่อเนื่อง: เสียงรอบข้างและคำพูดถูกส่งต่อไปยังส่วนใหม่โดยไม่มีการตัดขาดหรือเริ่มใหม่
หากต้องการสร้างลำดับวิดีโอ AI ความยาว 40 วินาที โดยไม่เสื่อมคุณภาพภาพ ให้ทำตามขั้นตอนตามลำดับนี้:
- สร้างเทคพื้นฐาน: เรนเดอร์คลิป 8 วินาทีแรกด้วยพารามิเตอร์พรอมต์มาตรฐาน
- เพิ่มคำสั่งขยาย: เรียกใช้ API การขยายโดยส่ง
previous_interaction_idระบุการกระทำถัดไปโดยไม่ต้องบอกคำอธิบายสภาพแวดล้อมพื้นฐานซ้ำ - ต่อช็อตย่อยตามลำดับ: ทำซ้ำพรอมต์การขยายเป็นช่วงๆ ครั้งละสูงสุด 10 วินาทีจนถึงขีดจำกัดรวม 40 วินาที
ด้วยการประเมินทั้งเวกเตอร์การเคลื่อนไหวภาพและรูปคลื่นเสียงพร้อมกัน ผู้สร้างจึงสามารถขยายคลิปสั้นให้เป็นช็อตเล่าเรื่องที่ยาวและสอดคล้องกันได้โดยไม่ต้องต่อภาพหลังการผลิต
การควบคุมกล้อง อัตราส่วนภาพ และเสียงในตัว
การอัปโหลดภาพแนวตั้ง 9:16 แล้วขอวิดีโอแนวนอน 16:9 มักทำให้เกิดแถบดำผิดเพี้ยนหรือใบหน้าถูกครอป ขณะที่พรอมต์เสียงที่ไม่มีแนวทางนำไปสู่คลิปเงียบหรือเอฟเฟกต์เสียงไม่ตรงกัน การควบคุมกล้องใน Gemini Omni Flash ให้เชี่ยวชาญต้องจับคู่ข้อจำกัดการจัดเฟรมที่แม่นยำกับแท็กเสียงที่มีโครงสร้าง
การควบคุมกล้องแม่นยำและการจับคู่อัตราส่วนภาพ

เพื่อป้องกันภาพยืดระหว่างการสร้าง ต้องจับคู่อัตราส่วนภาพระหว่างอินพุตและคอนฟิกเอาต์พุตอย่างเคร่งครัด โมเดลประมวลผลภาษาเลนส์กล้องแบบมาตรฐานเพื่อรันเวกเตอร์การเคลื่อนไหวทางกายภาพโดยไม่บิดเบือนตัวเรื่องที่โฟกัส
| การควบคุมกล้องและอัตราส่วนภาพ | ข้อกำหนดไวยากรณ์พรอมต์ | พฤติกรรมภาพเป้าหมาย |
| Dolly และการติดตาม | ดันกล้องเข้าหาตัวยึดหัวเรื่องอย่างราบรื่น | การเคลื่อนเลนส์เชิงเส้นที่ปรับระยะชัดลึก |
| การออร์บิตและการปรับโฟกัส | ช็อตออร์บิตช้าๆ ปรับโฟกัสไปที่พื้นหลัง | หมุน 360 องศาพร้อมกับเลื่อนระนาบโฟกัส |
| แพนและเอียงกล้อง | แพนซ้าย 45 องศา เอียงขึ้น 15 องศา | การกวาดกล้องแนวนอนและแนวตั้งต่อเนื่อง |
| 16:9 / 9:16 | ตั้งค่าเอาต์พุตให้ตรงกับขนาดอินพุต | ป้องกันแถบดำ ขอบภาพบิดเบี้ยว และการครอป |
การเขียนพรอมต์เสียงในตัวและความแม่นยำของการลิปซิงก์
Omni Flash 1.1 สังเคราะห์เสียงและวิดีโอพร้อมกันในพาสเดียว การได้ความแม่นยำลิปซิงก์สูงและการสร้างเสียงรอบข้างสมจริงต้องแยกคำสั่งเสียงออกจากคำอธิบายการเคลื่อนไหวภาพ
- การจัดวางบทสนทนา: จัดโครงสร้างคำพูดด้วยคิวผู้พูดที่ชัดเจน เช่น Character speaks: "We need to leave now" เพื่อล็อคการขยับปากให้ตรงกับหน่วยเสียงพูด
- เสียงสิ่งแวดล้อม: ใช้วงเล็บแท็กเสียงในตัวแบบชัดเจนสำหรับการออกแบบเสียงแบบหลายชั้น เช่น [Audio: Heavy rain, distant thunder, gravel crunching].
- การแต่งดนตรี: กำหนดอารมณ์และจังหวะด้วยคิวเสียงเฉพาะ เช่น [Music: Low acoustic guitar, slow 60 BPM tempo].
การใช้ตัวควบคุมการผลิตที่มีโครงสร้างเหล่านี้ช่วยให้วิดีโอที่สร้างคงความสอดคล้องของภาพและซิงก์เสียงที่สะอาดในทุกรูปแบบการเผยแพร่
การแก้ไขวิดีโอหลายเทิร์นเชิงสนทนาและการสลับการอ้างอิง
การเรนเดอร์วิดีโอทั้งหมดใหม่ตั้งแต่ต้นเพียงเพื่อเปลี่ยนพื้นหลังหรือปรับแสงที่ตำแหน่งวินาทีที่สามทำให้โควตา GPU หมดและทำลายความสม่ำเสมอของจังหวะ Gemini Omni Flash 1.1 แก้ปัญหานี้ด้วยการเก็บบริบทเซสชันไว้ในหน่วยความจำ รองรับ เวิร์กโฟลว์การแก้ไขวิดีโอเชิงสนทนา บนบัฟเฟอร์วิดีโอที่สร้างไว้แล้วโดยตรง
การใช้พรอมต์แบบวนซ้ำและการปรับเปลี่ยนเป้าหมาย
แทนที่จะเริ่มพาสดิฟฟิวชันใหม่ ผู้สร้างจะปรับเปลี่ยนเป้าหมายผ่านการพรอมต์วิดีโอแบบวนซ้ำ โมเดลตีความไทม์โค้ด มุมกล้อง และมาสก์เชิงพื้นที่ที่แม่นยำ ขณะที่รักษาความต่อเนื่องของฉากโดยรวมตลอดคำขอที่ต่อเนื่องกัน
| ประเภทการแก้ไข | ไวยากรณ์พรอมต์เชิงสนทนา | กลไกการรักษาสภาพ |
| การเปลี่ยนแสง | "At 3 seconds, shift lighting to warm golden hour glow, keep everything else the same." | รักษาเวกเตอร์การเคลื่อนไหวของตัวเรื่องและรูปทรงพื้นหลัง |
| การแทนที่แอสเซท | "Replace the coffee mug with [Secondary_Image_2.png], maintaining hand grip." | ผูกวิถีการเคลื่อนไหวเข้ากับเอมเบดดิ้งของวัตถุใหม่ |
| การเปลี่ยนสภาพแวดล้อม | "Change background to a neon city alleyway using style memory preset Alpha." | ล็อคเส้นทางกล้องขณะสลับโทเค็นพื้นหลัง |
หมายเหตุสำหรับนักพัฒนา: เมื่อดำเนินการสลับแอสเซทอ้างอิงผ่าน API ตรวจสอบให้แน่ใจว่า
Secondary_Image_2.pngถูกอัปโหลดผ่าน Gemini Files API หรือส่งเป็นส่วนภาพแบบอินไลน์ในเธรดสนทนาเดียวกัน (ChatSession) โดยอ้างอิงดัชนีออบเจกต์หรือชื่อตัวแปรเฉพาะในระบบพรอมต์
การดำเนินการสลับแอสเซทและสไตล์
การสลับภาพอ้างอิงช่วยให้นักพัฒนาสามารถนำภาพตัวเรื่องรองเข้าสู่บริบทคลิปที่มีอยู่ได้ หากตัวละครต้องเปลี่ยนเสื้อผ้าหรือโมเดลผลิตภัณฑ์ต้องเปลี่ยนตัวเครื่อง การส่งแอสเซทอ้างอิงใหม่จะอัปเดตวัตถุเป้าหมายโดยคงการแพนกล้องเดิม วิถีตัวละคร และอัตราเฟรมไว้ครบถ้วน
ด้วยการใช้สไตล์เมมโมรี่พรีเซ็ตข้ามเทิร์นสนทนา โมเดลแบบรวมจะเก็บค่าบรรยากาศ การเกรดสี และโปรไฟล์นอยส์ไว้ในหน่วยความจำเซสชัน ผู้สร้างสามารถปรับหลายพาสได้โดยไม่เสี่ยงต่อการเสียรูปตัวละคร การสั่นของตัวเรื่อง หรือพื้นหลังเคลื่อนคลาดในขั้นตอนการสร้างถัดไป สถานะหน่วยความจำถาวรนี้ไม่ต้องระบุฟิสิกส์สิ่งแวดล้อมหรือการตั้งค่ากล้องพื้นฐานซ้ำในเทิร์นถัดไป
การผสานเชิงโปรแกรม: สคีมาเพย์โหลด API และเวิร์กโฟลว์ ComfyUI
การเรียกใช้แดชบอร์ดเบราว์เซอร์ด้วยตนเองจะไม่เวิร์กทันทีที่ฝ่ายผลิตต้องการวิดีโออัตโนมัติหลายร้อยแบบต่อวัน การขยายสเกลการสร้างวิดีโอเชิงโปรแกรมต้องส่งคำขอ HTTP POST ที่มีโครงสร้างไปยัง API ของ Gemini Omni Flash 1.1 โดยตรง หรือเกตเวย์ผู้ให้บริการบุคคลที่สาม เช่น เอนด์พอยต์ภาพเป็นวิดีโอของ Atlas Cloud
สคีมาคำขอ JSON สำหรับการผลิต
เมื่อเรียกใช้การสร้างผ่าน Python AI video SDK หรือสคริปต์ cURL ที่กำหนดเอง ให้จัดรูปแบบแอสเซทภาพ ทิศทางกล้อง และพารามิเตอร์เสียงในตัวภายในสคีมาพรอมต์ JSON เดียว
plaintext1{ 2 "model": "gemini-omni-flash-1.1", 3 "input": { 4 "prompt": "<FIRST_FRAME> Smooth tracking shot forward as condensation drips down the cold soda can. [Audio: Fizzing crack and ambient ice clinking]", 5 "image_urls": ["https://storage.googleapis.com/assets/soda_can.png"], 6 "aspect_ratio": "16:9", 7 "duration": 8, 8 "generate_audio": true 9 } 10}
สถาปัตยกรรมโหนด ComfyUI
การผสานการเรียก API ของโมเดลเข้ากับเวิร์กโฟลว์ ComfyUI Gemini Omni ช่วยเลี่ยงขีดจำกัดการประมวลผล VRAM ในเครื่องโดยส่งงานอินเฟอเรนซ์ที่ซับซ้อนไปยังอินสแตนซ์คลาวด์เฉพาะ
| ส่วนประกอบโหนด | ข้อมูลอินพุตที่จำเป็น | ฟังก์ชันหลักของไพพ์ไลน์ |
| โหนดโหลดภาพ | ไฟล์ PNG หรือ JPG ต้นฉบับ | โหลดเทนเซอร์ภาพฐานและแปลงเป็น URL ที่เข้าถึงได้ |
| แซมเพลอร์ Omni Flash | สตริงพรอมต์, image_urls | สร้างและส่งเพย์โหลด API ไปยังคลาวด์ |
| ตัวถอดรหัสซิงก์เสียง | เพย์โหลดตอบกลับจาก API | แยกบัฟเฟอร์เอาต์พุตเป็นสตรีมวิดีโอและเสียง |
| โหนดพรีวิววิดีโอ | สตรีมสื่อ MP4 แบบรวม | เรนเดอร์เอาต์พุตรวมสุดท้ายพร้อมเสียงที่ซิงก์กัน |
การใช้งานอัตโนมัติแบ็กเอนด์แบบกำหนดเองด้วยการตั้งค่า API นี้ช่วยให้ประมวลผลได้อย่างน่าเชื่อถือในงานสร้างวิดีโอเชิงพาณิชย์ การจัดการข้อผิดพลาดเชิงโปรแกรมช่วยให้ระบบตรวจจับลิงก์ภาพที่เสียหรือขีดจำกัดอัตราการเรียกได้โดยอัตโนมัติ นักพัฒนาสามารถจัดการคิวงานแบบแบตช์ ประมวลผลเว็บฮุคแบบอะซิงโครนัส และบังคับใช้การตั้งค่าเอาต์พุตที่สอดคล้องกันในไพพ์ไลน์วิดีโอปริมาณมาก
การแก้ไขปัญหาข้อขัดข้องทั่วไปและการกลั่นกรองความปลอดภัย
เมื่อไพพ์ไลน์วิดีโออัตโนมัติพบข้อผิดพลาดในการสร้างหรือการบล็อกการกลั่นกรอง การวินิจฉัยสาเหตุต้นตออย่างเป็นระบบจะช่วยป้องกันการสิ้นเปลืองโควตา GPU โดยไม่จำเป็น เมทริกซ์การวินิจฉัยด้านล่างสรุปโหมดข้อขัดข้องทั่วไปและกลยุทธ์การแก้ไข
เมทริกซ์การวินิจฉัยสำหรับการแก้ไขปัญหา Gemini Omni Flash
| โหมดข้อขัดข้อง | สาเหตุต้นตอ | แนวทางแก้ไขและวิธีจัดการในการผลิต |
| อาร์ติแฟกต์ภาพ | การพรอมต์มากเกินไปด้วยคำอธิบายสไตล์ที่ขัดแย้งกัน | ใช้การลดอาร์ติแฟกต์การเคลื่อนไหวโดยลบคำคุณศัพท์ที่แข่งกันและล็อคพารามิเตอร์การเคลื่อนไหว |
| การละลายของเอกลักษณ์ตัวละคร | การหมุนกล้องมากเกินไปโดยไม่มีตัวยึดหัวเรื่อง | ใช้วิธีแก้การเคลื่อนคลาดของตัวละครโดยแท็กจุดยึดใบหน้าและลดความเร็วออร์บิตเป็น 15 องศาต่อวินาที |
| เสียงไม่ตรงกัน | ไทม์สแตมป์บทสนทนาที่ไม่เชื่อมโยง | ผูกเหตุการณ์เสียงเข้ากับการกระทำทางกายภาพโดยตรงโดยใช้เครื่องหมายไทม์สแตมป์ชัดเจนในบล็อกพรอมต์เสียง |
| ข้อผิดพลาดการปฏิเสธ | การกลั่นกรองผลบวกลวงบนใบหน้าสาธารณะหรือโลโก้ | จัดการผลบวกลวงของฟิลเตอร์ความปลอดภัยโดยครอปโอเวอร์เลย์ที่มีลิขสิทธิ์และจัดกรอบใบหน้าเป็นตัวยึดอ้างอิงทั่วไป |
การแก้ไขการบิดเบือนและการปฏิเสธจากระบบป้องกัน
การแก้ไขการบิดเบือนภาพแบบสะอาดต้องลบคำอธิบายภาพที่ซ้ำซ้อน เช่น "ultra-detailed" หรือ "photorealistic" ซึ่งแข่งกับเอมเบดดิ้งของภาพอินพุตต้นฉบับ เมื่อพบผลบวกลวงของฟิลเตอร์ความปลอดภัยบนภาพอ้างอิงใบหน้าหรือผลิตภัณฑ์เชิงพาณิชย์ที่อัปโหลด ให้ครอปโลโก้แบรนด์ที่มีคอนทราสต์สูงออกแล้วจัดเฟรมพรอมต์ข้อความใหม่เพื่ออธิบายลักษณะทางกายภาพทั่วไปแทนยี่ห้อที่จดทะเบียน
สำหรับการแก้ไขปัญหา Gemini Omni Flash เชิงลึกบนเส้นทางการเคลื่อนไหวที่ซับซ้อน การใช้วิธีแก้การเคลื่อนคลาดของตัวละครแบบเจาะจงป้องกันการบิดเบือนเอกลักษณ์ระหว่างการแพน 360 องศา ล็อควิถีเฟรมด้วยขอบเขตคีย์เฟรมคู่หรือส่งอาร์เรย์อ้างอิงตัวเรื่องที่สะอาดไม่ผ่านการแก้ไขในบอดีคำขอ การบังคับใช้เทคนิคการลดอาร์ติแฟกต์การเคลื่อนไหวอย่างแม่นยำช่วยให้รูปทรงคงที่และการเปลี่ยนพิกเซลราบรื่นทุกพาสการสร้าง
เคล็ดลับการผลิต: เมื่อจัดการข้อผิดพลาดการปฏิเสธ HTTP
400 (Invalid Argument)หรือ422 (Unprocessable Entity)ที่เกิดจากฟิลเตอร์การกลั่นกรอง ให้ตรวจสอบว่าเฟรมอ้างอิงอินพุตมีโลโก้แบรนด์หรือไอคอนเครื่องหมายการค้าที่มองเห็นได้หรือไม่ก่อนปรับพรอมต์ข้อความ
อนาคตของการสร้างวิดีโอเชิงโปรแกรม
Gemini Omni Flash 1.1 คือการเปลี่ยนแปลงครั้งสำคัญจากการพรอมต์วิดีโอแบบสุ่มไปสู่การผลิตแบบฟิล์มิกหลายพาสที่ควบคุมได้ ด้วยการสังเคราะห์เสียงในพาสเดียว การควบคุมวิถีกล้องในตัว และหน่วยความจำสถานะเซสชันถาวร ผู้สร้างและนักพัฒนาจึงมีบล็อกพื้นฐานที่จำเป็นสำหรับการสร้างวิดีโอระดับองค์กรแบบอัตโนมัติ
ด้วยการนำแนวกันชนเชิงโครงสร้าง สคีมาเพย์โหลด และรูปแบบการแก้ไขปัญหาที่อธิบายในคู่มือนี้ไปปรับใช้ ทีมของคุณสามารถสร้างเอนจินการผลิตวิดีโออัตโนมัติที่พร้อมสำหรับขนาดเชิงพาณิชย์ในโลกจริง










