Як — крупное животное с длинным туловищем, относительно короткими ногами, широкими, округлыми копытами и тяжёлой, низко посаженной головой.

Высота в холке до 2 м, масса до 1000 кг. Длина тела матёрого самца до 4,25 м, из них 0,75 м приходится на хвост. Длина тела самки до 2,8 м, высота 1,6 м, масса 325—360 кг. На холке у яка небольшой горб, отчего спина кажется покатой. Рога у обоих полов длинные, но не толстые, широко расставленные, от основания направлены в стороны, а затем загибаются вперед-вверх; длина их до 95 см, а расстояние между концами 90 см. Як отличается длинной косматой шерстью, которая свисает с туловища и почти полностью закрывает ноги. Шерсть темно-бурая или серовато-чёрная всюду, кроме морды, где часто бывают белые отметины. От зимних холодов яка защищает густой свалявшийся подшерсток, который весной и летом выпадает большими клочьями. Шерсть яков широко используется тибетцами, причём на животных нередко можно видеть упряжь, сплетенную из их собственного волоса. Если на большей части тела шерсть густая и ровная, то на ногах, боках и брюхе — длинная и косматая, образует своего рода сплошную «юбку», почти доходящую до земли. Хвост также покрыт длинным жестким волосом и напоминает лошадиный. Различают диких (mutus — «немой») и домашних (grunniens — хрюкающий) яков.