Al Cohn 在6岁时学弹琴，12岁时接触萨克斯风，其风格主要受Lester Young影响。早期有丰富的大乐团经验，像是Boyd Raeburn的乐队、Budy Rich的团体、Artie Shaw的乐队以及1948-1949年在Woody Herman的大乐团。他和同为萨克斯风手的Stan Getz、Zoot Sims同在一个乐团，而在他们的阴影之下，不易有出头的机会，而使的他的才艺没有被特别注意。50年代中期加入Eliot Lawrence的乐团，并经常与他的长期搭档Zoot Sims录製许多专辑。