שירו הגדול הראשון שהתפרסם היה אפוס ("אהבת דויד ומיכל 1879)".  שנתיים לאחריו הוא פרסם את "משלי יהודה " תרגום והתאמה של משלים שונים מאת- אזופוס, פיאדריס, לה פונטיין,ליסינג וקרילוב. בזמן ששהה בכלא באשמת פעילות נגד הצאר הוא כתב את שירו "צדקיהו בבית הפקודות " שיר תנכי היסטורי ששיקף את חוויותיו מהכלא. לאחר ששוחרר מהכלא הוא היה לעורך העיתון היומי היהודי של סאן-פטרסבורג, "המליץ", כמו כן הוא גם היה העורך המעי של הירחון היהודי רוסי( 1881-1882" Voskhod)" את שירו "על קוצו של יו"ד " הוא כתב במחאה על הדיכוי שבו היו שרויות הנשים היהודיות בזמנו. 

גורדון תלה את האשם במצב יהדות רוסיה במסורתיות וברבנים. הוא עודד יהודים להפסיק לדבר ביידיש ולאמץ לעצמם אורחות חיים יותר רוסיים. הוא תמך החינוך השכלתי כולל ובתרגום לעברית של כל היצירות הספרותיות בעלות עניין כללי. הוא טען כנגד אלו שמחו נגדו שהם "רוצים להעביר את השפה העברית מארץ החיים ". אולם אמונתו של גורדון ביכולת יהדות רוסיה להתאים את עצמה לחיים תחת ליברליזם רוסי הייתה קצרה. לאחר הפוגרומים בדרום רוסיה בשנת 1881 סבר גורדון שבפתרון היחידי של יהדות רוסיה כנגד הדיכוי הוא להגר למערב אירופה או לאמריקה. למרות שהוא תמך באופן פעיל בציונות סבר גורדון שהגאולה האמיתית יכולה לבוא רק לאחר "גאולתנו zהרוחנית"