ประเทศเวียดนามถูกแบ่งชั่วคราวที่เส้นขนานที่ 17 และภายใต้เงื่อนไขของข้อตกลงเจนีวา พลเรือนได้รับโอกาสให้เคลื่อนย้ายอย่างเสรีระหว่างสองรัฐชั่วคราวเป็นเวลา 300 วัน มีกำหนดจัดการเลือกตั้งทั่วประเทศในปี 2499 เพื่อตั้งรัฐบาลรวม ชาวเวียดนามเหนือประมาณหนึ่งล้านคน ส่วนใหญ่เป็นคาทอลิกชนกลุ่มน้อย หนีลงใต้ ด้วยกลัวถูกคอมมิวนิสต์เบียดเบียน หลังการรณรงค์โฆษณาชวนเชื่อของอเมริกาที่ใช้คำขวัญอย่าง "พระนางมารีย์พรหมจารีมุ่งหน้าลงใต้" และได้รับการช่วยเหลือโดยโครงการย้ายที่อยู่ที่สหรัฐจัดหาทุน 93 ล้านดอลลาร์สหรัฐ ซึ่งรวมการใช้กองเรือที่เจ็ดขนผู้ลี้ภัยข้ามฟาก อาจมีมากถึงสองล้านคนหากไม่ถูกเวียดมินห์หยุดไว้ก่อน ตั้งใจว่าผู้ลี้ภัยชาวเวียดนามเหนือจะให้ระบอบโง ดิ่ญ เสี่ยมมีเขตเลือกตั้งต่อต้านคอมมิวนิสต์ที่เข้มแข็ง เสี่ยมต่อมาตั้งคาทอลิกเวียดนามเหนือและกลางดำรงตำแหน่งสำคัญในรัฐบาลเขา

นอกเหนือจากคาทอลิกหลั่งไหลลงใต้ ยังมี "ผู้กลับรวมกลุ่มปฏิวัติ" มากถึง 130,000 คนเดินทางขึ้นเหนือเพื่อ "รวมกลุ่มใหม่" โดยคาดหมายว่าจะกลับใต้ภายในสองปี เวียดมินห์เหลือกลุ่มแกนนำ 5,000 ถึง 10,000 คนในทางใต้เป็น "โครงสร้างย่อยทางการเมือง-ทหารภายในวัตถุประสงค์อุดมการณ์เรียกร้องดินแดนของชนชาติเดียวกัน" ทหารฝรั่งเศสคนสุดท้ายมีกำหนดออกจากเวียดนามในเดือนเมษายน 2499 สาธารณรัฐประชาชนจีนเสร็จสิ้นการถอนทหารจากเวียดนามเหนือในเวลาใกล้เคียงกัน พลเรือนเวียดนามประมาณ 52,000 คนย้ายจากใต้ขึ้นเหนือ

ระหว่างปี 2496 ถึง 2499 รัฐบาลเวียดนามเหนือตั้งการปฏิรูปที่ดินเพื่อการเกษตรต่าง ๆ ซึ่งรวม "การลดการเช่า" และ "การปฏิรูปที่ดิน" ซึ่งทำให้เกิดการกดขี่ทางการเมืองอย่างสำคัญ ระหว่างการปฏิรูปที่ดิน คำให้การจากพยานเวียดนามเหนือแนะว่ามีสัดส่วนการประหารชีวิตหนึ่งครั้งต่อชาวบ้านทุก 160 คน ซึ่งเมื่อประมาณทั่วประเทศแล้วจะชี้ว่ามีการประหารชีวิตเกือบ 100,000 ครั้ง เนื่องจากการรณรงค์ดังกล่าวกระจุกส่วนใหญ่ในพื้นที่สามเหลี่ยมแม่น้ำแดง นักวิชาการในขณะนั้นจึงยอมรับตัวเลขประเมินที่ต่ำลง คือ 50,000 ครั้งอย่างกว้างขวาง ทว่า เอกสารที่ถูกปลดชั้นความลับจากจดหมายเหตุเวียดนามและฮังการีบ่งว่าจำนวนการประหารชีวิตต่ำกว่าที่รายงานในขณะนั้นมาก แม้เป็นไปได้ว่ามากกว่า 13,500 ครั้ง ในปี 2499 ผู้นำในกรุงฮานอยยอมรับว่า "เลยเถิด" ในการนำโครงการนี้ไปปฏิบัติและคืนที่ดินปริมาณมากให้เจ้าของเดิม

ขณะเดียวกัน ฝ่ายเวียดนามใต้ก่อตั้งรัฐเวียดนาม โดยมีบ๋าว ดั่ยเป็นจักรพรรดิและโง ดิ่ญ เสี่ยมเป็นนายกรัฐมนตรี (ได้รับแต่งตั้งในเดือนกรกฎาคม 2487) รัฐบาลสหรัฐและรัฐเวียดนามของโง ดิ่ญ เสี่ยมไม่ได้ลงนามใด ๆ ในการประชุมเจนีวาปี 2497 ในปัญหาการสร้างเอกภาพอีกครั้ง ผู้แทนเวียดนามที่มิใช่คอมมิวนิสต์คัดค้านการแบ่งประเทศเวียดนามอย่างขันแข็ง แต่แพ้เมื่อฝรั่งเศสยอมรับข้อเสนอของฝั่ม วัน ด่ง ผู้แทนเวียดมินห์ ผู้เสนอว่าสุดท้ายเวียดนามจะรวมกันโดยการเลือกตั้งภายใต้การกำกับดูแลของ "คณะกรรมการท้องถิ่น" สหรัฐโต้ด้วยสิ่งที่เรียก "แผนอเมริกา" โดยการสนับสนุนเวียดนามใต้และสหราชอาณาจักร ซึ่งกำหนดให้การเลือกตั้งสร้างเอกภาพภายใต้การกำกับดูแลของสหประชาชาติ แต่ถูกผู้แทนโซเวียตปฏิเสธ สหรัฐกล่าวว่า "ตามแถลงการณ์ของผู้แทนรัฐเวียดนาม สหรัฐกล่าวย้ำท่าที่เดิมว่าประชาชนมีสิทธิกำหนดอนาคตของตนเองและจะไม่เข้าร่วมกับการจัดการใด ๆ ที่จะขัดขวางสิทธินี้"

ประธานาธิบดีสหรัฐ ดไวต์ ดี. ไอเซนฮาวร์ เขียนในปี 2496 ว่า "ผมไม่เคยพูดหรือแลกเปลีย่นกับผู้ที่มีความรู้เรื่องกิจการอินโดจีนที่ไม่เห็นชอบว่าหากมีการจัดการเลือกตั้งขณะที่มีการรบกันนั้น เป็นไปได้ว่าประชากรร้อยละแปดสิบจะออกเสียงลงคะแนนให้คอมมิวนิสต์โฮจิมินห์เป็นผู้นำแทนประมุขแห่งรัฐบ๋าว ดั่ย จริงที่เดียว การขาดความเป็นผู้นำและแรงขับในสว่นของบ๋าว ดั่ยเป็นปัจจัยหนึ่งในความรู้สึกที่แพร่หลายในหมู่ชาวเวียดนามว่าพวกเขาไม่มีสิ่งต้องต่อสู้ให้" ทว่า ตาม เพนตากอนเพเพอส์ ตั้งแต่ปี 2496 ถึง 2499 "โง ดิ่ญ เสี่ยมสร้างปาฏิหารย์อย่างแท้จริง" ในเวียดนามใต้ "เกือบแน่นอนว่าในปี 2499 สัดส่วนซึ่งอาจออกเสียงลงคะแนนให้โฮ ในการเลือกตั้งอย่างเสรีกับเสี่ยม จะน้อยกว่าร้อยละแปดสิบมาก" ในปี 2500 ผู้สังเกตการณ์อิสระจากประเทศอินเดีย โปแลนด์และแคนาดาเป็นตัวแทนของคณะกรรมการควบคุมระหว่างประเทศ (ICC) แถลงว่าการเลือกตั้งเสรีและปลอดอคตินั้นเป็นไปไม่ได้ โดย ICC รายงานว่าเวียดนามใต้และเหนือไม่ปฏิบัติตามความตกลงสงบศึก

ตั้งแต่เดือนเมษายนถึงมิถุนายน 2498 เสี่ยมกำจัดการคัดค้านทางการเมืองทั้งหมดในเวียดนามใต้โดยเปิดฉากปฏิบัติการทางทหารต่อกลุ่มศาสนาสองกลุ่ม คือ กาวด๋าย (Cao Đài) และฮหว่าหาว การรณรงค์ยังให้ความสนใจกับกลุ่มองค์การอาชญากรรมบิ่ญเซวียน (Bình Xuyên) ซึ่งเป็นพันธมิตรกับสมาชิกตำรวจลับพรรคคอมมิวนิสต์และมีบางส่วนเป็นทหาร เมื่อการคัดค้านฐานกว้างต่อยุทธวิธีโหดร้ายเพิ่มขึ้น เสี่ยมยิ่งมุ่งโทษคอมมิวนิสต์

ในการลงประชามติเรื่องอนาคตของรัฐเวียดนามเมื่อวันที่ 23 ตุลาคม 2498 เสี่ยมโกงการสำรวจความเห็นที่มีโง ดิ่ญ ญู (Ngô Đình Nhu) น้องชายเขาเป็นผู้กำกับดูแล และได้รับคะแนนเสียงร้อยละ 98.2 รวมถึงร้อยละ 133 ในไซ่ง่อน ที่ปรึกษาอเมริกันของเขาแนะนำให้ส่วนต่างชนะพอประมาณ "ร้อยละ 60 ถึง 70" แต่เสี่ยมมองการเลือกตั้งว่าเป็นการทดสอบอำนาจ สามวันให้หลัง เขาประกาศให้เวียดนามใต้เป็นรัฐเอกราชชื่อสาธารณรัฐเวียดนาม (ROV) โดยมีตัวเขาเป็นประธานาธิบดี เช่นเดียวกัน โฮจิมินห์และข้าราชการคอมมิวนิสต์อื่นชนะการเลือกตั้งในเวียดนามเหนืออย่างน้อยร้อยละ 99 ทุกครั้ง

ทฤษฎีโดมิโนซึ่งแย้งว่าหากประเทศหนึ่งเสียแก่คอมมิวนิสต์ แล้วประเทศแวดล้อมทั้งหมดจะตามกันไปด้วย ถูกเสนอเป็นนโยบายครั้งแรกโดยรัฐบาลไอเซนฮาวร์ จอห์น เอฟ. เคนเนดี ซึ่งขณะนั้นเป็นสมาชิกวุฒิสภาสหรัฐ กล่าวในสุนทรพจน์ต่อสหายเวียดนามชาวอเมริกันว่า "พม่า ไทย อินเดีย ญี่ปุ่น ฟิลิปปินส์และที่ชัดเจนลาวและกัมพูชาเป็นประเทศที่ความมั่นคงจะถูกคุกคามเมื่อคลื่นแดงคอมมิวนิสต์ล้นเข้าเวียดนาม"