Zeytin ağacı Yunan Mitolojisi’nde çok özel bir yere sahiptir. En önemlisi zeytin ağacı, bereket ve barışın temsilcisi tanrıça Athena nın insanlara bir armağanıdır. Yunan mitolojisinde yer alan efsaneye göre tanrılar kralı Zeus, Attika şehri için bir yarışma düzenler. Yarışmaya göre Attika şehrine en değerli armağanı verecek olan, kentin koruyucusu olacaktır. Yarışmaya Zeus’un kızı tanrıça Athena ile deniz tanrısı Poseydon katılır. Yarışmada ilk önce denizler tanrısı Poseydon, denizden ihtişamlı bir at çıkarır. Bu at çok ağır yükleri taşıyabilecek ve savaşlarda çok büyük yararlılık gösterebilecek güçtedir.
Athena ise topraktan bir zeytin ağacı çıkarır ve yarışmayı kazanır, bunun karşılığında hem Attika’nın koruyucu tanrıçası olur, hem de şehre adı verilir. Mitolojiye göre tanrıça Athena, zeytin ağacını barışı ve medeniyeti simgelediği için armağan etmiştir Atinalılar'a. Bu seçim "at" yerine zeytin ağacını seçmek değildir sadece... Halk bu seçimiyle aynı zamanda göçebelik yerine yerleşikliği, savaş ve talan yerine barış ve uygarlığı seçmiştir. Aklı, bilimi ve sanatı temsil eden tinsel parlaklığın tanrıçası Athena'nın en belirgin simgesi kendi yarattığı ağaç olan zeytinin dalıdır.
Başka bir efsaneye göre ise savaşçılar tarafından özel olarak korunan bu ağaç, M.Ö.480'deki Pers işgalinde Akropolis'le birlikte yakılır. İşgalden sonra Akropolis yıkıntıları arasında kalan zeytin ağacı filizlenir, yeniden canlanır ve sürgünleri tüm Yunanistan'a ekilir. Bu nedenle olmalı bütün zeytin ağaçlarının, Athena'nın yarattığı bu ilk zeytin ağacından çoğaldığı söylenir.
Zeytin ağacının altında doğmuş olmak Antik Yunanlılar'a göre, kutsal bir aileden gelmiş olmanın en önemli işaretiydi. M.Ö. 8’inci yüzyılda yaşadığı sanılan Homeros’un kaleme aldığı İlyada destanında zeytin ağacı ve zeytinyağına ilişkin zengin tasvirler ve benzetmelerle süslüdür.