해군장으로 거행된 영결식에 참석할 국무총리를 비롯한 동료장병, 일반시민 등 국군 수도병원 안팎을 가득메운 1천여명의 추모객들은 살신성인의 희생정신과 진정한 군인정신을 보여 준 고인을 애도했다.
이날 오전 10시 군악대의 조악 속에 정운찬 국무총리가 고인에게 충무무공훈장을 추서하면서 시작된 영결식은 이어 정호섭 해군본부 인사참모부장의 고인 약력 보고, 김성찬 해군참모총장의 조사, 고인의 후배 김창길 준위 추도사 등으로 이어지며 고인의 숭고한 업적과 이별을 고하는 애절함이 비쳐지며 유족들의 슬픔과 오열로 식장안은 숙연한 분위기를 보였다.
추도사에 이어 고인의 종교에 따라 해군본부 군종실장 강보승 법사 등이 불교의식을 갖고 극락왕생을 기원했다.
이어 부인 김말순씨와 아들 상기 등 유가족과 김 참모총장, 전두환 전 대통령, 정 국무총리, 김태영 국방부장관, 각 정당 지도부 인사, 김학송 국회 국방위원장, 유인촌 문화체육관광부장관, 임태희 노동부장관 등 순으로 헌화·분향을 했다. 영결식은 조총 발사로 끝났으며 고인의 유해는 중원구 갈현동소재 성남 화장장에서 화장한 뒤 대전 현충원에 안장됐다.