회담은 1951년 7월 8일 개성에서 쌍방의 연락 장교 회의를 통하여 절차 문제를 합의한 후 7월 10일부터 개성시 고려동 내봉장에서 본회의가 개최되었다. 이날 쌍방 대표의 상견례에 이어 7월 11일부터 본격적인 휴전 회담이 시작되었다. 유엔군 측은 협상 의제의 선택, 군사 분계선의 설정, 휴전 감시 방법 및 그 기구의 설치, 전쟁 포로에 관한 문제 등 휴전에 선행되어야 할 순 군사적인 문제만을 다루자고 주장하였다. 반면에 공산군 측은 쌍방이 적대 행위를 중지하고 38도선을 군사분계선으로 설정하는 문제와 한반도로부터 외국 군대의 철수 문제를 우선적으로 토의해야 한다는 정치적 주장만을 앞세움으로써 해결의 실마리를 찾지 못하였다. 그러다가 협상 개시 16일 만인 7월 26일에야 비로소 쌍방은 다음과 같은 협상 의제와 토의 순서에 합의하였다.

양측 간에 합의된 협상 의제는 제1의제로 협상 의제의 채택, 제2의제로 군사 분계선의 설정, 제3의제로 휴전 감시방법 및 그 기구의 설치, 제4의제로 포로 교환에 관한 협정, 제5의제로 쌍방의 당사국 정부에 대한 건의 등이었다.

유엔군 측과 공산군 측은 먼저 제2의제인 군사 분계선 문제에 관해 논의하였다. 1951년 7월 17일에 시작된 군사 분계선 설정에 관한 협상은 현재의 접촉선을 군사분계선으로 하자는 유엔군 측의 주장과 38도선을 군사분계선으로 설정해야 한다는 공산군 측의 주장이 팽팽하게 맞서 회담이 교착되기도 했다. 그러나 결국 이 문제는 현재 접촉선을 군사 분계선으로 하자는 유엔군 측의 주장이 관철됨으로써 1951년 11월 27일 쌍방은 군사 분계선의 설정 협정에 조인하였다. 그 요지는 첫째, 휴전 협정이 조인 될 때까지 전투를 계속한다. 둘째, 현재의 접촉선을 군사 분계선으로 하고 이를 중심으로 남북으로 각각 2㎞씩 4㎞의 비무장지대를 설치한다. 셋째, 상기의 군사 분계선 및 비무장지대는 30일 이내에 휴전 협정이 조인될 경우에 한하여 유효하다. 넷째, 만일 30일 이내에 휴전협정이 조인되지 않을 경우에는 군사 분계선은 휴전 협정이 조인 될 당시의 접촉선으로 한다는 것 등이었다.

한편 휴전 회담이 개시될 때, 유엔군 측과 공산군 측은 협상이 최종 합의에 도달할 때까지 군사작전을 계속한다는 전제 하에 회담을 시작하였다. 이에 따라 휴전 회담 기간 중의 군사작전은 휴전 회담의 추이와 밀접한 연관을 맺고 전개될 수밖에 없었다. 유엔군은 협상이 결렬될 경우나, 유엔군이 요구한 협상 조건을 공산군 측이 받아들이지 않을 때 전투를 재개했다. 유엔군은 협상 중에도 제한 목표에 대한 지속적인 공격을 통해 공산군에 대한 압력을 유지하면서 적의 공격 기도를 분쇄했다. 공산군은 휴전 협상 과정에서 전력의 열세를 만회하기 위해 전력 증강을 도모하는 한편, 자신들이 빼앗긴 진지를 탈환하여 군사력을 과시하거나, 휴전 회담에서 주도권을 장악하기 위해 유엔군 진지 중 북쪽으로 돌출되어 있거나 취약한 진지에 대해 공격을 실시했다. 그 결과 휴전 회담장에서는 설전(舌戰)이, 전선에서는 혈전(血戰)이 전개되었다.