ส่วนชีวิตการค้าแข้งเริ่มเล่นทีมเยาวชนกับสโมสรฟุตบอลเวสต์แฮมและติดทีมชุดใหญ่เมื่ออายุเพียง 17 ปี. ใน พ.ศ. 2546 (ค.ศ. 2003) ได้ย้ายมาร่วมทีมเชลซี และส่งผลให้เขาติดทีมชาติอังกฤษ ตำแหน่งที่เล่นคือ กองกลางตัวรุก โดยมักจะเล่นทางกราบซ้าย ว่ากันว่าเขามีความสามารถใกล้เคียงกับ เปเล่ มีไหวพริบ และมีทักษะในการเล่นยอดเยี่ยม และในศึกฟุตบอลโลก 2006 ที่เยอรมนีเป็นเจ้าภาพ โคลได้ทำประตูที่น่าอัศจรรย์ จากจังหวะที่กองหลังของทีมชาติสวีเดนโหม่งสกัดออกมา แล้วโคลก็พักอกหนึ่งจังหวะแล้วช้อนลูกจากนอกกรอบเขตโทษเข้าประตูไปอย่างสวยงาม ซึ่งประตูนั้นก็เป็นประตูที่ทำให้ทีมชาติอังกฤษตีเสมอทีมชาติสวีเดนอีกด้วยและประตูของโคลก็ได้รับการยอมรับว่าเป็นประตูที่สวยที่สุดในศึกฟุตบอลโลก 2006 ในปี (2008) ทางสโมสรเชลซีได้มีการเปิดตัวโค้ชคนใหม่นาม "หลุยส์ เฟลิเป้ สโคลลารี" ซึ่งเป็นโค้ชชาวบราซิลเข้ามาทำทีม โดยรูปแบบการเล่นของเขาจะใช้ระบบ 4-2-3-1 ซึ่งระบบดังกล่าวจะไม่เน้นใช้ผู้เล่นที่เป็นปีก ทำให้ โจ โคล เป็นเพียงตัวสำรองเป็นระยะเวลานาน เพราะต้องช่วงชิงตำแหน่งผู้เล่นตัวจริงจากนักฟุตบอลในทีมที่เล่นในตำแหน่งกองกลางเป็นปกติอยู่แล้วอย่าง แลมพาร์ด, บัลลัค อีกทั้งยังมี เดโก้ ที่เชลซีดึงตัวมาจากบาร์เซโลนา ได้อย่างยากลำบาก และในเดือนมกราคม โจ โคล ได้รับบาดเจ็บยาวทั้งฤดูกาล ปัจจุบัน โจ โคล มีอายุ 29 ปี และกำลังจะหมดสัญญากับสโมสรเชลซีในซัมเมอร์ที่จะถึง ทำให้มีหลายสโมสรที่สนใจจะคว้าตัว โจ โคล แบบไม่มีค่าตัว ซึ่งสโมสรเหล่านั้นรวมถึงทอตนัมฮอตสเปอร์, อาร์เซนอล, ลิเวอร์พูล และแมนเชสเตอร์ยูไนเต็ด แต่ในที่สุดทางสโมสรลิเวอร์พูล ได้ออกมาให้สัมภาษณ์ และแถลงการทางเว็บไซต์สโมสรแล้วว่า ได้เซ็นสัญญากับโจ โคล แล้ว ด้วยสัญญา 4 ปี ค่าเหนื่อย 90,000 ปอนด์ ต่อสัปดาห์ รวมแล้วรับค่าเหนื่อยปีละ 4.7 ล้านปอนด์ โดย โจ โคล จะสวมเสื้อเบอร์ 10 ในการลงเล่นในถิ่นแอนฟิลด์

โคลเริ่มต้นชีวิตนักฟุตบอลกับสโมสรฟุตบอลเวสต์แฮมโดยลงเล่นไปทั้งหมด 149 นัด ยิงได้ 13 ประตู ก่อนจะย้ายมาอยู่กับทีมเชลซีเมื่อปี ค.ศ. 2003 ปัจจุบันได้ย้ายไปอยู่กับสโมสรฟุตบอลลิเวอร์พูล[2]