Памятный знак с барельефом профессора теологии Юлиуса Руппа установлен в Кенигсберге юго-восточнее Кафедрального собора 13 августа 1909 года. Бронзовый барельеф, первоначально укреплённый на валуне, был создан внучкой профессора, художницей Кете Кольвиц. В нижней части валуна высечены слова Юлиуса Руппа на немецком языке: "Кто не живет в соответствии с истиной, которую знает, тот является злейшим врагом этой истины".
Памятный знак Юлиусу Руппу успешно пережил войну и первые послевоенные годы. Позднее барельеф был утрачен.
В 1979 году барельеф был восстановлен скульптором Борисом Васильевичем Едуновым. Однако произошёл конфуз - вместо портрета Юлиуса Руппа при создании барельефа скульптор использовал портрет его зятя и сподвижника Карла Шмидта. В 1986 году ошибку обнаружили, после чего Робертом Дербенцевым был создан новый барельеф, установленный на валуне 22 апреля 1990 года. 2 июня 1991 года состоялось торжественное открытие памятного знака Юлиусу Руппу с барельефом работы Харальда Хааке, копией первоначального барельефа, переданным внучкой художницы Кете Кольвиц - Юттой Бонке-Кольвиц.
Памятный знак с барельефом Юлиуса Руппа имеет статус объекта культурного наследия местного и регионального значения.