Podružna cerkev sv. Andreja stoji na južnem pobočju Rudnice. Iz Olimja je do nje le deset minut hoda. Cerkev je iz 15. stoletja, poznogotska. Že prvi pogled nanjo daje vtis, da je nekaj posebnega, predvsem zaradi zvonika, ki je v tem okolju edini te vrste. Pročelje cerkve z gotskim portalom, rozeto in baročnim okencem se namreč zaključi z majhnim odprtim mediteranskim zvonikom in je najvzhodnejši primer tega tipa zvonika pri nas. V zvoniku sta dva zvona, ki zvonita trikrat na dan »angel gospodov«.
Cerkveni prostor sestavljajo pravokotna ladja, enako visoki prezbiterij in kasneje dozidana zakristija. Najdragocenejša cerkvena oprema so trije oltarji. Na glavnem oltarju je kip zavetnika cerkve sv. Andreja, ob strani med stebroma pa kipa sv. Petra in Pavla. V atiki je v pokončni niši Marija kraljica stoječa na luninem krajcu z Jezuščkom v naročju. Oltar se zakluči s kalvarijskim prizorom. Ob križu stojita žalostna Mati Božja in sv. Janez apostol.
V ladji ob slavoloku stojita stranska oltarja. Levi oltar je posvečen mučenki sv. Neži. Svetnica drži v desni roki jagenjčka v levi pa meč. Ob strani stojita mučenki sv. Lucija in sv. Agata. V atiki nad kipom sv. Neže stoji Marija kraljica, obdana z žarki, oblaki, angeli in angelskimi glavicami. Nad njo je podoba nebeškega Očeta, ki blagoslavlja Marijo.
Desni oltar sv. Fabijana in Sebastijana ima v osrednji niši sliko škofa, ki drži v desni roki škofovsko palico v desni pa knjigo. Pri njegovem vznožju sta naslikana cerkvica in pes. Katerega svetnika slika predstavlja ni mogoče z gotovostjo ugotoviti. Ob straneh stojita sv. Fabijan in Sebastijan. V atiki je doprsni kip nebeškega Očeta med dvema angeloma.
Cerkev je povsem obnovljena in ponovno blagoslovljena na Andrejevo nedeljo, 28. novembra 2010. Blagoslovil jo je celjski škof dr. Stanislav Lipovšek.