Arsenal został założony jako Dial Square w 1886 roku przez pracowników zakładów zbrojeniowych Royal Arsenal. Później klub został przemianowany na Royal Arsenal[3]. W 1891 roku ponownie zmienił nazwę, na Woolwich Arsenal i stał się profesjonalnym zespołem[4]. Dwa lata później dołączył do the Football League i rozpoczął grę w Second Division. W 1904 roku awansował do First Division, ówczesnej najwyższej ligi piłkarskiej w Anglii[5]. Z powodu swojego położenia geograficznego, na mecze Arsenalu chodziło mniej osób niż na inne spotkania. Spowodowało to kłopoty finansowe klubu. Arsenal został w tym samym czasie przejęty przez Henry'ego Norrisa. Chciał on przenieść siedzibę zespołu i w 1913 roku, krótko po spadku Arsenalu do Second Division, zespół przeprowadził się na nowy stadion – Arsenal Stadium w Highbury[6]. Następnego roku z nazwy klubu usunięto "Woolwich" i od tego czasu klub nosi nazwę Arsenal[7]. W 1919 roku zespół zajął piąte miejsce w lidze, mimo to w kontrowersyjnych okolicznościach awansował do First Division kosztem swojego lokalnego rywala, Tottenhamu Hotspur[8].
W 1925 roku Herbert Chapman został trenerem Arsenalu. Wcześniej dwukrotnie został mistrzem Anglii z Huddersfield Town (w sezonach 1923/1924 i 1924/1925). Poprowadził on klub do pierwszych znaczących sukcesów zmieniając taktykę Arsenalu. Sprowadził do klubu Alexa Jamesa i Cliffa Bastina[9]. Arsenal w 1930 roku zdobył Puchar Anglii, zaś w sezonach 1930/1931 oraz 1932/1933 został mistrzem kraju[10]. Poza tym dzięki inicjatywie Chapmana, lokalna stacja metra zmieniła swoją nazwę z "Gillespie Road" na "Arsenal"[11].
Chapman zmarł nagle na zapalenie płuc w 1934 roku i jego miejsce zajęli Joe Shaw i George Allison. Pod ich wodzą Arsenal jeszcze trzykrotnie został mistrzem kraju (w sezonach 1933/1934, 1934/1935 i 1937/1938). Zdobył również Puchar Anglii w 1936 roku[10]. Następnie wielu podstawowych graczy zaczynało kończyć swoje kariery i klub nie osiągał już sukcesów. Gdy wybuchła II wojna światowa w 1939 roku, rozgrywki piłkarskie w Anglii zostały zawieszone[12][13][10].
Po zakończeniu wojny, następcą Allisona został Tom Whittaker. Arsenal w sezonach 1947/1948 i 1952/1953 ponownie został mistrzem Anglii, a w 1950 roku wygrał rozgrywki o puchar kraju[10]. Po tych sukcesach forma zespołu spadła i klub w latach 50. i 60. nie osiągał już sukcesów. W 1962 roku zatrudniono byłego kapitana reprezentacji Anglii, Billy'ego Wrighta, jednak nie poprawił on sytuacji klubu[14].
W 1966 roku trenerem Arsenalu został były fizjoterapeuta klubu, Bertie Mee. Po dwóch niewygranych finałach Pucharu Ligi, zespół w sezonie 1969/1970 zdobył Puchar Miast Targowych, swoje pierwsze europejskie trofeum. Rok później Arsenal zdobyłdublet – został mistrzem Anglii oraz zdobył Puchar Anglii[15]. Później klub nie osiągał już sukcesów, mimo że był ich bardzo blisko. W sezonie 1972/1972 został wicemistrzem Anglii, a w 1972, 1978 i 1980 roku doszedł do finału Pucharu Anglii, którego nie zdołał wygrać. W sezonie 1979/1980 grał również w finale Pucharu Zdobywców Pucharów, który przegrał po serii rzutów karnych. Jedynym osiągnięciem w tym czasie było zdobycie pucharu kraju w 1979 roku po zwycięstwie w końcówce meczu z Manchesterem United[16].
W 1986 roku nowym trenerem klubu został George Graham, były piłkarz Arsenalu. W pierwszym sezonie pod jego wodzą zespół zdobył Puchar Ligi. W 1989 roku został także mistrzem Anglii po zwycięstwie w ostatniej kolejce nad Liverpoolem[17]. W roku 1991 ponownie wygrał rozgrywki ligowe, zaś dwa lata później zdobył Puchar Anglii i Puchar Ligi w jednym sezonie. W 1994 roku wygrał także rozgrywki o Puchar Zdobywców Pucharów[10]. Reputacja Grahama znacznie zmalała jak wyszło na jaw, że otrzymywał łapówki odRune'a Hauge'a za podpisywanie kontraktów z niektórymi graczami[18]. Z tego powodu w 1995 roku został zwolniony. Jego następca,Bruce Rioch, pracował w klubie jeden sezon i odszedł z powodu sporu z zarządem[19].
W 1996 roku szkoleniowcem zespołu został Francuz, Arsène Wenger. Wenger zmodernizował taktykę klubu oraz metody treningowe. Sprowadził do drużyny także kilku zagranicznych zawodników m.in. Nicolasa Anelkę. W sezonie 1997/1998 Arsenal zakupiłMarca Overmarsa, Gilles'a Grimandiego i Emmanuela Petita. Nowi zawodnicy pomogli klubowi zdobyć dublet – Arsenal został mistrzem Anglii oraz zdobył puchar kraju. Osiągnięcie to powtórzył w roku 2002. Poza tym klub doszedł do finału Pucharu UEFA w sezonie 1999/2000. Przegrał w nim po serii rzutów karnych z Galatasaray SK. W 2003 i 2005 roku Arsenal zdobył Puchar Anglii, a w sezonie 2003/2004 wygrał rozgrywki Premier League bez ani jednej porażki. Dzięki temu osiągnięciu zespół uzyskał przydomek "The Invincibles"[20]. Łącznie był niepokonany przez 49 spotkań, co jest rekordem w całej historii piłki angielskiej[21].
Arsenal ośmiokrotnie kończył rozgrywki ligowe na pierwszym lub drugim miejscu pod wodzą Wengera, jednak nie zdołał ani razu obronić tytułu mistrza Anglii[22]. Tylko pięć klubów wygrało Premier League od czasu jej założenia w 1992 roku. Poza Arsenalem, są to: Manchester United,Blackburn Rovers, Chelsea i Manchester City[23]. Do sezonu 2005/2006 Arsenal ani razu nie przeszedł ćwierćfinału Ligi Mistrzów; w tym sezonie stał się pierwszym londyńskim zespołem, który dotarł do finału tych rozgrywek. Arsenal został w nim pokonany przez FC Barcelona 2:1[24]. Sezon 2005/06 był pierwszym od czterech lat, w którym "Kanonierzy" nie wygrali żadnego trofeum, jednak siódmym z kolei, w którym zawodnicy Arsène Wengera wystąpili w finale oficjalnych rozgrywek. Był on również początkiem końca ery 'Invincibles' oraz zapowiedzią wielkiej rewolucji w zespole i przebudowy składu. W lipcu 2006 roku klub po 93 latach gry na Highbury przeniósł się na Emirates Stadium[25]. Latem 2007 roku do klubu sprowadzono Williama Gallasa, Denílsona, Tomáša Rosický'ego oraz Júlio Baptistę. Karierę piłkarską zakończył Dennis Bergkamp, natomiast Ashley Cole i Robert Pirès zmienili klub. Rozgrywki Premier League "Kanonierzy" zakończyli na 4 miejscu, co dało im jedynie eliminację do Ligi Mistrzów. W dwumeczu eliminacyjnym Arsenal rozgromił aż 5:1 Dinamo Zagrzeb. Następnie zajął pierwsze miejsce w swojej grupie i awansował do 1/8 finału. Tam spotkał się z holenderskim PSV Eindhoven. Zespół prowadzony przez Wengera niespodziewanie uległ 0:1 i zakończył swój udział w europejskich rozgrywkach. W Pucharze Anglii zespół odpadł w dwumeczu z Blackburn Rovers. W kolejnym sezonie 2007/08 klub zasilili m.in. Lassana Diarra, Bacary Sagna, Eduardo oraz polski bramkarz Łukasz Fabiański. Klub opuścili Thierry Henry i Fredrik Ljungberg. Ostatecznie Arsenal skończył sezon z dorobkiem trzeciego miejsca w lidze. Puchar Anglii zespół zakończył na piątej rundzie, gdzie przegrał z Manchesterem United 0:4. W Lidze Mistrzów "Kanonierzy" odpadli w ćwierćfinale, gdzie pokonał ich Liverpool 2:4.