Yudo Margono yang lahir di Madiun, Jawa Timur pada tahun 1965 itu merupakan lulusan Akademi Angkatan Laut (AAL) Ke-33 pada tahun 1988.

Setelah lulus dari Akademi Angkatan Laut, Yudo mengawali kariernya di kapal perang dengan menjadi Asisten Perwira Divisi (Aspadiv) Senjata Artileri Rudal di KRI YNS 332 (1988), Kadep Ops KRI Ki Hajar Dewantara 364.

Kariernya kemudian naik dengan menjabat sebagai Komandan KRI Pandrong 801, Komandan KRI Sutanto 877, Komandan KRI Ahmad Yani 351, Komandan Lanal Tual (2004—2008), Komandan Lanal Sorong (2008—2010).

Selanjutnya pada tahun 2010, Yudo Margono dipercaya sebagai Komandan Satkat Koarmatim. Ia kemudian ditunjuk menjadi Panglima Komando Lintas Laut Militer (Kolinlamil) pada periode 2017—2018.

Tak lama kemudian, Yudo dipercaya untuk mengemban sebagai Panglima Komando Armada I (Pangkoarmabar sebelumnya) yang menduduki wilayah laut Indonesia bagian barat pada periode 2018—2019.

Saat itu timnya menemukan kotak hitam Lion Air yang jatuh di perairan Karawang, Jawa Barat pada tahun 2018.

Atas kinerjanya, Yudo ditunjuk sebagai Panglima Komando Gabungan Wilayah Pertahanan (Pangkogabwilhan) I, yaitu komando utama operasi Markas Besar Tentara Nasional Indonesia periode 2019—2020 dengan pangkat bintang tiga atau laksamana madya.

Saat menjabat, Yudo mampu meredam ketegangan di wilayah Natuna, Kepulauan Riau karena adanya pelanggaran oleh kapal nelayan Tiongkok pada tahun 2020.

Yudo juga aktif saat penanganan awal pandemi COVID-19, yaitu pada bulan Maret 2020 saat memulangkan warga negara Indonesia (WNI) dari Tiongkok ke Tanah Air dan pembangunan rumah sakit darurat untuk pasien COVID-19 di Pulau Galang dan Wisma Atlet.

Dengan prestasinya tersebut, Yudo dipercaya untuk mengemban tugas sebagai KSAL menggantikan Laksamana TNI Siwi Sukma Adji yang memasuki masa pensiun pada tahun 2020.